SKT, 독자 구축 LLM 에이닷 엑스 3.1 라이트 공개

SK텔레콤(대표 유영상)은 11일 오픈소스 커뮤니티 허깅페이스에 독자 구축 거대언어모델(LLM) ‘에이닷 엑스(A.X) 3.1 라이트’를 공개했다고 밝혔다.

에이닷 엑스 3.1 라이트는 모델의 맨 처음 단계부터 모두 직접 구축하는 프롬 스크래치 방식으로 만들었다. SKT는 모델 구축과 데이터 학습 등 전 단계를 직접 진행했고, 에이닷 엑스 3.1 라이트는 70억 개(7B)의 매개변수를 갖춘 경량 모델이다.

에이닷 엑스 3.1 라이트는 기존 에이닷 전화 통화요약에 적용했던 에이닷 엑스 3.0 라이트 모델의 업그레이드 버전으로, 전작의 강점인 경량화된 성능과 높은 효율성을 이어받았다. SKT는 정보 처리 용량, 소비 전력 등 다양한 사양의 모바일 기기에서 최적의 품질을 구현할 수 있도록 해 기업들의 원활한 서비스 제공에 기여할 수 있을 것으로 기대한다고 밝혔다.

SKT에 따르면 에이닷 엑스 3.1 라이트는 같은 규모의 매개변수를 바탕으로 하는 자매 LLM인 에이닷 엑스 4.0 라이트와 동등한 수준의 우수한 한국어 처리능력을 갖췄다. 한국어 능력 평가 벤치마크인 KMMLU에서 에이닷 엑스 3.1 라이트(61.70)는 에이닷 엑스 4.0 라이트(64.15) 대비 96% 수준의 성능을 나타냈고, 한국어 및 한국 문화 벤치마크인 CLIcK에서는 에이닷 엑스 3.1 라이트(71.22)가 에이닷 엑스 4.0 라이트(69.97) 대비 102% 수준의 성능을 기록했다.

SKT는 향후 보유 LLM을 오픈소스로 공개할 예정으로, 에이닷 엑스 3.1 라이트 후속인 매개변수 340억 개(34B)의 프롬 스크래치 모델인 에이닷 엑스 3.1 역시 이달 중 발표할 예정이다.

SKT는 에이닷 엑스 3 계열의 소버린 AI 모델로 자생력 있는 기술을 갖추는 동시에, 최적화된 성능과 효율이 필요한 영역에는 대규모 사전 학습(CPT)에 기반한 에이닷 엑스 4 계열 모델을 활용하는 전략을 펼친다.

SKT는 투 트랙 전략으로 국내 기업들이 각자의 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 다양한 선택지를 제공한다는 방침이다. 기존 모델의 성능을 대폭 혁신할 수 있도록 그래픽처리장치(GPU) 자원을 확충하고 개발 역량을 높여 나갈 계획이다.

SKT는 LLM 기술 역량을 바탕으로 정부가 추진하는 ‘독자 AI 파운데이션 모델 개발 사업’에 지원할 예정이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 “꾸준히 쌓아 온 한국형 LLM 개발 역량을 바탕으로 AI 생태계 자립성을 높이고, 국가 AI 경쟁력 제고에 기여하도록 노력할 것”이라고 밝혔다.

글. 바이라인네트워크
<최가람 기자> ggchoi@byline.network