카카오, 문장 대신 ‘점수’로 답하는 AI 에이전트용 판단 모델 오픈소스 공개

카카오가 인공지능(AI) 에이전트의 의사결정을 지원하는 멀티모달 모델을 오픈소스로 공개했다. 텍스트와 이미지를 분석한 뒤 문장 대신 확률이나 점수 등으로 판단 결과를 제공해 AI 에이전트의 업무 처리 속도를 높이는 것이 특징이다.

카카오는 자체 개발 멀티모달 언어모델 ‘Kanana-2-v-3b’를 기반으로 한 인공지능 의사결정 특화 모델 ‘Kanana-2-v-decide’를 글로벌 AI 모델 공유 플랫폼 허깅페이스에 공개했다고 6일 밝혔다.

이번 모델은 AI 에이전트가 여러 단계의 업무를 수행하는 과정에서 필요한 판단을 지원하도록 설계됐다. 일반적인 대규모언어모델(LLM)이 문장으로 답변을 생성하는 것과 달리, 판단 결과를 숫자나 선택지 형태로 제공해 후속 작업에 바로 활용할 수 있다.

모델은 판단 결과를 확률·선택·점수 등 세 가지 형식으로 제공한다. 특정 조건이 참일 가능성을 확률로 나타내거나, 여러 선택지 가운데 적합한 항목을 고르고, 평가 기준에 따라 점수를 산출하는 방식이다. 이를 통해 고객 문의 분류나 AI 에이전트 도구 선택, 상품 이미지 판단 등 판단이 필요한 다양한 서비스에 적용할 수 있다.

카카오는 ‘Kanana-2-v-decide’에 입력된 질문과 선택지를 벡터로 변환해 유사도를 비교하는 임베딩 기반 구조를 적용했다. 분류 항목이 많은 환경에서도 유연하게 활용 가능하며, 동일한 선택지의 벡터를 재사용해 반복적인 판단에 필요한 연산량을 줄였다.

카카오에 따르면 이번 모델은 엔비디아 H200 GPU 1장 기준 평균 0.04초 이내의 응답 속도를 기록했다. 회사는 자체 평가 데이터셋인 ‘Kanana Decision Bench’와 공개 평가 데이터셋 ‘Decision Index’에서도 마이크로소프트, 퍼플렉시티, 업스테이지 등의 비교 대상 모델보다 높은 성능을 기록했다고 설명했다.

카카오는 연구와 상업적 이용이 가능한 ‘카나나 오픈 라이선스’를 적용했다. 앞으로 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 모델을 적용해 성능을 개선하고, 장기적으로 검색과 판단 기능을 통합하는 방향으로 기술을 고도화할 계획이다.

최동진 카카오 어플라이드 AI 모델 성과리더는 “이번 모델 공개는 최신 AI 기술의 발전을 실제 서비스에 활용할 수 있는 기반을 넓힌다는 점에서 의미가 있다”며 “앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공해 나가겠다”고 말했다.

글. 바이라인네트워크
<성아인 기자> aing8@byline.network