콘솔에 넣은 생성AI…솔트룩스가 ‘루시아’로 제시한 새로운 패러다임

또 다른 국산 거대 언어모델(LLM)이 베일을 벗었다. 클라우드로 응용프로그래밍인터페이스(API)를 물려 제공하는 기존 모델과는 다르게 하드웨어 설치만으로도 맞춤형 LLM을 쓸 수 있는 새로운 패러다임이 제시됐다. 기업이 프라이빗 모델로 활용하기 용이할 뿐더러 답변의 왜곡도 줄였다는 게 회사의 설명이다.

솔트룩스는 7일 서울 삼성동 코엑스 오디토리움에서 인공지능(AI) 컨퍼런스 ‘SAC 2023’을 개최했다. 이날 컨퍼런스에서는 회사가 자체 개발한 LLM 기반 솔루션 ‘루시아GPT’의 상세 정보가 공개됐다. 23년의 업력에서 나온 노하우를 쏟아부어 공공과 기업 환경에 맞춰 사용할 수 있는 다양한 모델로 제공하는 게 특징이다.

루시아GPT는 여러 파라미터(매개변수) 버전으로 개발했다. 70억개의 파라미터를 갖춘 7빌리언(B)모델을 시작으로 13B, 20B, 50B 등의 버전이 제공된다.

파라미터 수가 늘수록 성능은 좋아지지만, 이를 돌리기 위한 그래픽처리장치(GPU) 비용이 크고 너무 큰 모델보다는 기업 도메인에 특화한 LLM을 제공하기 위해 파라미터 수를 다변화했다. 100B 모델은 연말 출시 예정이다.

제공 방식도 독특하다. 사실상 가장 눈에 띄는 부분이다. 클라우드를 통한 API 제공 방식은 물론 네트워크만 연결하면 사용할 수 있는 콘솔형 제품으로도 제공하는 게 특징이다. 

루시아 어플라이언스라고 이름 붙인 콘솔은 네트워크만 연결하면 바로 쓸 수 있는 엔터프라이즈용 제품이다. 루시아GPT를 비롯해 사용자가 스스로 언어를 학습시킬 수 있는 노코드 플랫폼 ‘랭귀지 스튜디오(Language Studio)’를 비롯 ▲인지검색 솔루션 ‘서치 스튜디오(Search Studio)’ ▲인공지능 기반 지식그래프 솔루션 ‘날리지 스튜디오(Knowledge Studio)’ 기능 함께 쓸 수 있다.

김형백 솔트룩스 전무가 7일 ‘SAC 2023’에서 루시아 어플라이언스를 소개하는 모습.

이미 1테라바이트(TB) 이상의 한국어 데이터를 학습한 루시아GPT에 더해 인사팀이면 휴가나 근태관련 데이터, 제조팀이면 원자재값이나 수송 데이터 등을 추가 학습시키는 식으로 도메인 특화 LLM을 만들 수 있다.

온프레미스에 구축하는 형태라 내부정보 유출 우려도 적다. 챗봇인 루시아Chat을 통해 마치 챗GPT처럼 자연어 질의로 답변을 얻는 것은 물론이다. 전문 지식 학습과 실시간 정보 수집을 통해 할루시네이션 현상도 감소시켰다.

김형백 솔트룩스 전무는 “루시아 엔터프라이즈와 같은 통합 솔루션을 온프레미스 형태로 제공할 수 있는 기업은 현재 국내에선 솔트룩스가 유일하고 세계적으로도 손에 꼽을 정도”라며 “국내는 물론 해외 법인을 통해 미국 등 글로벌 시장도 빠르게 선점할 계획”이라락 밝혔다.

API 모델은 아마존웹서비스(AWS)와 협업을 기반으로 제공된다. 머신러닝 허브인 AWS 세이지 메이커 점프스타트(SageMaker JumpStart)’를 통해 루시아GPT를 활용할 수 있다. 또 AWS의 AI 추론 가속기인 인퍼런시아(Inferentia)2를 통해 운영비용도 절감할 수 있다.

김재은 솔트룩스 AI연구센터 랩장은 “13B 파라미터 모델을 인러런시아2를 통해 사용할 경우 월 운영비용이 기존보다 최대 65%까지 절감될 것으로 예상한다”고 밝혔다.

김재은 솔트룩스 AI연구센터 랩장. (사진=솔트룩스)

다만 국산 LLM이라고 해서 루시아GPT가 도드라지게 한국어 데이터를 많이 학습하거나 한국어 특화에 초점을 맞춘 것은 아니다. 이경일 솔트룩스 대표는 기자간담회에서 “어느 임계점 이상을 넘으면 영어로 배워도 한국어(답변)가 잘 나온다”면서 “언어 체계와 관계 없이 모든 단일한 벡터로 전환하기 때문”이라고 말했다.

오후에는 솔트룩스 미국법인과 국내 자회사 플루닛의 임직원들이 연사로 나서서 생성 AI 기반 서비스의 고도화 계획을 소개했다.

‘구버(Goover)’는 사용자가 관심 있는 특정 주제와 키워드 등을 학습한 AI가 전 세계 웹에서 맞춤형 심층 정보를 실시간 수집해 개인 지식 어드바이저 역할을 수행하는 솔루션이다.

여기에 루시아GPT를 적용, 해당 주제에 대한 심층 보고서를 자동 생성하는 한편 대화형 프롬프트를 통해 보고서를 작성할 수 있도록 하는 기능 개발이 한창이다. 구버는 올해 말 오픈베타를 시작해 내년 4월 공식 출시된다.

‘플루닛 워크센터(Ploonet Workcenter)’는 AI 직원을 기업 특성에 맞게 커스텀 생성할 수 있는 옴니채널 AI 직원 서비스다. 문자와 채팅, 전화 등으로 이뤄지던 대규모 상담 응대뿐 아니라 아웃바운드 마케팅 활동까지 가능하다. 공식 출시 시기는 오는 10월로 잡혔다.

솔트룩스는 내년 매출의 절반 이상을 루시아GPT와 연관 솔루션으로 채운다는 계획이다. 금융은 물론 제조 분야에서의 문의도 적지 않다는 게 회사의 설명이다. 미국을 비롯한 동남아 등 해외의 경우 클라우드 기반 서비스로 매출을 내고, 국내는 온프레미스 모델 확산에 집중할 방침이다.

[관련 기사: 솔트룩스 “루시아GPT는 작고 안전한 수소폭탄…환각 줄였다”]

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다