모티프, 엔비디아 투자 받아 차세대 LLM 개발

AI 파운데이션 모델 전문 기업 모티프테크놀로지스(대표 임정환)가 차세대 거대언어모델(LLM) ‘모티프 4(Motif 4)’ 개발을 위한 투자 유치를 마무리하고, 내년 1분기 공개를 목표로 개발에 착수했다고 9일 밝혔다. 이번 투자에는 기존 투자자들과 함께 엔비디아가 참여할 예정이다.

모티프 4는 지난 8월 발표한 오픈웨이트 모델 ‘모티프 3’의 후속 모델이다. 모티프는 내년 1분기 개발을 마친 뒤 오픈웨이트 방식으로 공개할 계획이다.

모티프 3는 과학기술정보통신부의 독자 AI 파운데이션 모델(독파모) 사업을 통해 개발됐다. 지난 8월 글로벌 AI 모델 평가기관 아티피셜 애널리시스의 종합 지능 지수(AAII) 평가에서 47점을 기록했다. 당시 전 세계 AI 기업 모델 가운데 10위, 오픈웨이트 모델 가운데 4위를 차지했다. 중국과 미국 기업을 제외하면 1위였으며, 독파모 사업에 참여한 업스테이지, SK텔레콤, LG AI연구원 등 다른 3개 기업보다 높은 점수를 받았다.

모티프는 자체 개발 아키텍처를 기반으로 모델 개발 전 과정을 아우르는 기술 확보에 주력하고 있다. 모티프 3에는 그룹 차등 잠재 어텐션(GDLA) 등 자체 기술을 적용했다. 이를 바탕으로 GPU 768장 규모의 자원을 활용해 5개월 만에 모델 개발을 완료했다.

임정환 모티프 대표는 모델 구조 설계부터 사후학습까지 각 개발 단계에서 차별화된 기술을 확보해야 글로벌 프론티어 모델 경쟁에서 살아남을 수 있다는 입장이다.

또한 모티프 3 개발 당시 일정과 자원 제약으로 강화학습(RL) 등 사후학습을 충분히 진행하지 못했다고 설명했다. 이번 투자로 개발 자원을 확보한 만큼 모티프 4에서는 기술적 성능뿐 아니라 실제 사용성과 상업성까지 갖춘 모델을 개발하겠다는 목표다.

임 대표는 “최근 글로벌 모델 개선 경쟁이 치열하게 이뤄지고 있는 상황에서 아키텍처부터 사후학습까지 모든 단계에서 차별화를 만들어 내는 것만이 글로벌 프론티어 경쟁에서 살아남을 수 있는 유일한 방법”이라며 “모티프 4를 통해 독자적으로 최고 수준의 글로벌 프론티어 모델을 만들 수 있는 역량을 보여줄 것”이라고 말했다.

이어 “모티프 3에서는 기한과 자원의 제약으로 강화학습(RL) 등 충분한 사후학습을 하지 못한 아쉬움이 있었다”며 “모티프 4에서는 충분한 자원이 확보된 만큼 기술적 우수성뿐 아니라 사용성과 상업성까지 갖춘 결과물을 선보일 것”이라고 덧붙였다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network