모티프테크놀로지스, 독자 AI 파운데이션 모델 재도전

AI 스타트업 모티프테크놀로지스(대표 임정환)는 과학기술정보통신부의 ‘독자 AI 파운데이션 모델(독파모)’ 추가 공모에 적극 참여할 예정이라고 20일 밝혔다.

모티프는 이를 위해 지난해 7월 구성했던 컨소시엄 외에 추가 업체들과도 논의를 진행하고 있다고 설명했다.

회사 측은 고성능 대형언어모델(LLM)과 대형멀티모달모델(LMM) 모두를 파운데이션 모델로 개발한 경험을 갖춘 국내 유일의 스타트업으로서, 한국의 기술 독자성을 증명하기 위해 노력할 예정이라고 강조했다.

모티프테크놀로지스는 작년 7월 독파모 사업에 컨소시엄을 구성해 지원했고, 10개팀을 선정하는 서류 심사 단계를 통과했지만 5개팀 정예팀엔 포함되지 못했다. 모회사 AI 인프라 전문기업 모레를 비롯해 삼일회계법인, 서울대, KAIST 등이 컨소시엄에 참여했다.

모티프테크놀로지스는 지난해 11월 모델 구축부터 데이터 학습까지 전과정을 직접 수행한 ‘Motif 12.7B’ LLM을 공개했다. 기존 트랜스포머 구조를 그대로 쓰지 않고, ‘그룹별 차등 어텐션(GDA)’ 기술을 자체적으로 개발해 적용했다. 어텐션 함수와 모델의 아키텍처 자체를 새롭게 설계한 것이다.

이 모델은 글로벌 AI모델 성능을 종합평가하는 ‘아티피셜 애널리시스’의 인텔리전스지수(AAII)에서 12.7B 매개변수의 비교적 작은 LLM임에도 675B의 미스트랄 라지3 같은 대형 LLM보다 높은 점수를 기록했다.

정부는 지난 15일 독파모 1차 평가 결과를 발표했다. 1차 심사 결과 LG AI연구원, SK텔레콤, 업스테이지 등 3개 정예팀이 2차 단계에 진출했다. NC AI는 성과 미달로 탈락했고, 네이버클라우드는 독자성 기준을 충족하지 못해 탈락 처리됐다.

정부는 당초 4개 정예팀을 1차 심사 단계에서 선정할 예정이었던 점을 감안해 기존의 모든 신청 컨소시엄과 국내 스타트업 및 연구기관을 대상으로 패자부활전을 개최한다고 발표했다.

하지만 네이버클라우드와 NC AI는 재도전 불참을 선언했고, 카카오도 재도전하지 않겠다고 밝혔다. 현재까지 재도전 의사를 공식화한 기업은 모티프테크놀로지스가 처음이다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network