올거나이즈, 사내 맞춤형 AI 구축 솔루션 ‘알리 LLM Ops’ 출시

올거나이즈는 데이터 유출 걱정 없이 기업 내부에서 인공지능(AI) 기반 거대 언어모델(LLM)을 자유롭게 활용할 수 있는 솔루션 ‘알리 LLM Ops’를 출시했다고 14일 밝혔다.

알리 LLM Ops는 오픈소스 LLM을 활용해 기업이 사내용 LLM 자체 구축할 수 있도록 돕는 서비스다. 회사에 따르면 알리 LLM Ops를 활용하면 올거나이즈의 자연어 기반 인지 검색 솔루션인 알리(Alli)에서 노코드 기반 LLM 애플리케이션을 쉽게 개발할 수 있다.

기업 고객은 자신의 상황에 가장 잘 맞는 언어모델을 자유롭게 선택하고, 개발 현장에 노코드로 바로 반영할 수 있다는 설명이다. 비개발자 역시 단 시간 안에 애플리케이션을 완성할 수 있을 만큼 직관적인 유저 인터페이스를 갖춰 회계·인사·마케팅 등 직무별 업무 자동화 LLM 애플리케이션을 개발할 수 있다.

또 원하는 LLM을 선택해 활용할 수 있는 것도 강점이다. 돌리(Dolly), 스테이블LM, 블룸(Bloom) 등 파라미터 30억~1760억개 규모의 오픈소스 거대 언어모델을 기업이 원하는 대로 자유롭게 선택할 수 있다.

올거나이즈 관계자는 “기업 환경에 맞춰 사내에 언어모델을 구축하기 때문에 머신러닝 과정에서의 데이터 외부 유출을 막을 수 있고, 개인 정보 제어를 통해 보안을 강화할 수 있다”고 말했다.

오픈AI의 GPT나 구글의 바드 등 빅테크 기업의 거대 언어모델을 선택해 서비스형소프트웨어(SaaS) 형태로 활용할 수도 있다. 빅테크 기업의 LLM을 사용해도 각 기업의 특성에 맞게 파인 튜닝하기 때문에 기업 특화 프롬프트 엔지니어링 및 버전 관리가 용이하다고 회사는 강조했다.

이창수 올거나이즈 대표는 “사내구축형 LLM은 기업 데이터가 외부에 공개되는 것을 꺼리는 기업에 최적화된 형태”라며 “알리 LLM Ops를 활용하면 기업마다 각각의 니즈에 맞는 AI 언어모델을 선택해서 노코드 기반 앱을 쉽게 만들 수 있고, 원할 경우 언어모델을 변경하는 것도 가능하다”고 밝혔다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network