“무조건 큰 LLM은 그만”…네이버, 서비스에 맞춘 ‘프로덕트 네이티브 LLM’ 승부수

네이버는 올해 들어 자사 서비스와는 분리 운영한 인공지능(AI) 서비스를 연이어 종료했습니다. 회사가 자체 개발한 거대언어모델(LLM) ‘하이퍼클로바X’를 기반으로 한국어 특화 역량을 내세운 ‘클로바X’와 검색형 AI 서비스 ‘큐(Cue:)’가 그 주인공입니다.

글로벌 빅테크와의 범용 챗봇 경쟁에서 한 발 물러나는 대신, 네이버는 검색, 쇼핑, 플레이스 등 자사 플랫폼의 서비스에 AI를 보다 깊게 풀어내는 방식을 택했습니다. 대화형 인공지능(AI) 검색 서비스 ‘AI탭’으로 이미 수천만명이 이용하는 자사 서비스 안에서 이용자의 탐색부터 실행까지를 효율적으로 수행한다는 목표입니다. 

무대가 기존 독립형 서비스에서 AI탭으로 바뀌면서, LLM의 모양새도 바뀌었습니다. 회사가 지난 2일 서울 D2SF 강남에서 열린 ‘AI 검색 테크 딥톡 스터디’의 주제인 ‘차세대 LLM’이 그 주인공입니다. 여기에 하네스 엔지니어링 기법을 엮은 네이버는 단순히 매개변수를 늘리는 방향보다는, 에이전트 시대에 자사 서비스 내에서 검색부터 예약까지의 과정을 잘 완수할 수 있는 AI로 승부를 보려 합니다. 

네이버 ‘차세대’ LLM, 실행에 초점 맞춘다

네이버가 소개한 차세대 AI 모델은 네이버가 자체 개발한 ‘하이퍼클로바X’를 기반으로 AI 검색에 맞게 경량으로 개발된 ‘프로덕트 네이티브 LLM’입니다. 

회사가 차세대 LLM을 개발한 이유는 지난 6월 정식 출시한 AI탭이 서비스의 중심으로 부상한 지금 일평균 5000만이 방문하는 네이버 메인 전반을 감당할 수 있는 AI가 필요했기 때문입니다.

네이버는 단순히 매개변수 규모가 아니라 서비스 실행에 초점을 맞춘 LLM임을 분명히 했습니다. 이기창 네이버클라우드 하이퍼스케일 AI 모델 이사는 “네이버는 가장 큰 모델을 만들겠다는 게 아니라, 사용자 요구사항과 서비스에서 가장 잘 작동하는 데서 승부를 보고 싶다”고 말했습니다. 실제로 이날 네이버는 차세대 LLM의 매개변수 규모를 공개하지 않았습니다.

특히 이 차이는 기존 하이퍼클로바X와의 개발 방향에서 드러납니다. 프로덕트 네이티브 LLM은 범용 모델인 기존 하이퍼클로바X와 달리 검색·구매·예약 순간에 잘 작동하도록 개발되었습니다. 

이기창 이사는 “하이퍼클로바X는 범용 모델로 짧은 맥락에서 정확한 답변을 주는 데 집중했다면, 차세대 모델은 긴 대화 맥락 속 멀티턴에 상황에 맞는 도구를 적절히 선택해 사용자가 원하는 과업을 끝까지 완수하는 데 초점을 맞췄다”고 말했습니다. 

그런 만큼 프로덕트 네이티브 LLM에 주어진 과제는 실 서비스에 맞춰 트래픽과 품질, 효율성을 모두 만족시켜야 한다는 점입니다. 김성범 네이버 검색플랫폼 전무는 “네이버는 하루 수천만명이 수억번 검색하는 플랫폼”이라며 “(AI탭은) 구조상 이용자가 질문할 때 AI 답을 받고 싶을 때, 답을 줘야 하는 구조로 트래픽과 품질 둘 다 자신감이 있어야 해 비용적으로, 기술적으로 가능한 것을 고민했다”고 말했습니다. 

성능 또한 서비스 수행 역량을 중심으로 크게 향상됐습니다. 자체 벤치마크를 통해 네이버는 차세대 모델이 ▲서비스 역량 ▲기본 역량 ▲전문 역량 3가지 영역에서 네이버 서비스에 최적화됐다고 평가했습니다.

검색과 구매, 예약과 AI브리핑 요약 등 네이버를 기준으로 서비스 역량에서는 글로벌 동급모델의 평균(100점) 을 상회하는 108점을 기록했으며, 외부 공인 벤치마크를 기준으로 평가한 지시 이행과 일반 도구호출 등 기본 역량에서도 동급 대비 높은 104점을 기록했다고 밝혔습니다. 박사급 과학 문제나 터미널 배치 등에서는 97.5점으로 경쟁사와 유사한 수준을 달성했습니다. 

차세대 모델의 성능이 급상승한 배경에는 ▲서비스 맞춤형 MoE 구조  ▲서비스 데이터 ▲학습 공정 고도화 3가지가 있습니다.

먼저 네이버는 ‘실행’까지를 중시한 AI탭에 맞춰 모델 구조를 바꿨습니다. 기존 하이퍼클로바X의 핵심인 트랜스포머 구조는 문장 내 모든 단어의 연관성이 어떤지 3가지 벡터로 변환해 계산하는 셀프 어텐션을 거쳐 작동하기 때문에, 입력 길이가 길어질수록 연산량이 제곱으로 증가합니다.

반면 차세대 모델은 대규모 서비스 환경에 최적화된 전문가 혼합 모델(MoE, Mixture of Experts) 구조를 도입해, 입력 길이가 늘어나도 연산량이 선형적으로 증가하는 수준까지 낮췄습니다.

MoE 구조 도입으로 네이버는 응답 속도도, 비용도 낮출 수 있게 되었습니다. 이 이사에 따르면 차세대 모델은 입력길이가 1만6000자까지 늘어나도 입력부터 최종 답변까지 걸리는 총 소요시간(E2E)이 일정한 수준으로 유지됩니다. 또 초당 처리가능한 요청수(RPS)도 1000~1만6000자까지 기존 모델들 대비 높은 수준을 유지하고 있습니다. 

LLM 학습을 위한 고품질 데이터 선별과 강화학습도 서비스 기준으로 다듬었습니다. 네이버는 차세대 LLM 사전 학습에 필요한 데이터를 걸러내기 위해 문서 품질 필터를 만든 후 고품질 데이터를 사전 학습에 반영했으며, 서비스별 요구사항에 맞는 문서를 모으기 위해 평가셋을 제작한 후 서비스에 맞는 문서를 수집했습니다. 그 결과, 고품질 문서의 기준을 기존 초중등 수준의 공교육 지식에서 난이도와 주체를 확장해 법원 판례와 논문 등 어려운 지식과 상품 리뷰와 음식 레시피 등 유용 지식까지 넓혔습니다. 

사후학습 과정인 강화학습에 투입하는 컴퓨팅 자원도 기존 대비 2배 이상 확대했습니다. 규칙에 맞는지, 사용자 의도를 만족한 동시에 자연스러운 답변인지 두 가지 기준을 활용해 유저 시뮬레이터(User Simulator)와 검색·예약 등 실제 서비스를 연계한 강화학습 환경을 구축했습니다. 

강화학습 기법 또한 다양해졌습니다. 네이버는 답을 낼 수 없는 질문에 대해 추가 조건을 되물었을 때 보상을 부여해 모델 성능을 높이는 명료성 강화학습(Clarify RL) 방식을 활용해 AA-Omniscience 벤치마크 기준 할루시네이션을 기존 모델 대비 최대 30% 감소시켰습니다. 

또 자기정책 기반 증류(OPD, On-Policy Distillation) 기법을 적용해 학생 모델의 답변을 선생 역할의 고성능 모델이 토큰별로 첨삭해 전문 영역의 역량을 끌어올리는 방법을 활용했습니다. 

회사는 차세대 LLM이 기업간거래(B2B) 사업에도 도움이 될 것으로 보고 있습니다. 이 이사는 “네이버 사용자의 요구 사항이 굉장히 까다로운 만큼, (네이버 안에서) 사용자의 요구사항을 맞추면 B2B 등 고객사 요구사항을 잘 맞출 수 있는 기반이 될 수 있다”며 향후 B2B 고객에도 하이퍼클로바X 기반 고성능 모델을 계속 제공할 계획이라고 말했습니다.

효율과 실행 둘 다 잡은 ‘하네스 엔지니어링’ 

프로덕트 네이티브 LLM이 모델을 네이버 서비스에 맞춘 것이라면, 하네스 엔지니어링은 모델을 AI탭에 맞게 엮어나가는 겁니다.

하네스 엔지니어링은 쉽게 말해 LLM의 능력을 최대한으로 이끌어내면서, AI 에이전트가 사용자가 지시한 목적에 맞춰 일을 마무리할 수 있도록 돕는 환경을 설계하는 걸 의미하는데요.

한승균 네이버 AI 검색 리더는 하네스 엔지니어링을 “AI가 서비스에서 제대로 일할 수 있도록 하는 ‘일머리’”라고 표현하기도 했습니다. 하나의 좋은 LLM이 있어도 학습된 시기 등에 따라 최신성이 떨어지는 등 좋은 서비스를 만드는 데에는 한계가 있기 때문에, 네이버는 이용자 생성 콘텐츠(UGC)와 각종 데이터베이스를 결합해 정보 제공에 활용한다는 설명입니다. 

네이버는 AI 탭 내 AI가 부적절한 답변을 하지 않도록 제어하는 동시에, 필요한 정보를 스스로 찾고 적절한 도구를 활용해 사용자의 요청을 끝까지 수행하도록 하네스 엔지니어링을 설계했습니다.

한 리더는 “네이버의 하네스 엔지니어링은 어떤 모델을 사용할 지, 어떤 도구를 사용할 지, 어떻게 답변을 구성할 것인지 3가지에 초점을 맞췄다”고 말했습니다. 

AI탭은 6단계를 거쳐 각 단계별 LLM을 거쳐 답변을 도출합니다. ▲답변해도 되는 질문인지 판단하는 안전 검토 ▲대화와 위치 등 맥락 구축 ▲질의 및 적합 액션 단계로의 분류 ▲각 작업에 특화된 처리기별 정보 탐색 ▲실행 카드를 포함한 답변 생성 ▲후속 질문 순입니다. 

네이버가 선택한 이 구조는 분업형 소규모 언어모델(SLM, Small Language Model) 구조입니다. 단순히 하나의 LLM이 모든 작업을 처리하는 게 아니라, 각 역할별로 특화된 SLM을 조합해 답변까지 연결함으로써 네이버는 운영 비용을 줄이면서 응답 속도와 품질을 높였습니다. 그 결과, 기존 거대모델 중심에서 분업형 구조로 바꾸면서, 일부 컴포넌트의 장비 운영 비용을 기존 대비 최대 3분의 1로 절감하고, 응답 속도는 2배 이상 개선했습니다. 

특히 새로운 소형 모델이 개발될 경우 해당 파트만 플러그인 형태로 교체할 수 있어, 지속적인 성능 개선이 가능한 점도 장점입니다. 한 리더는 “모델 교체 시 안정성 등 내부적인 기준에 맞춰 교체하고 있다”고 설명했습니다. 

답변 품질 또한 향상됐습니다. AI탭은 사용자가 수행하려는 작업을 설명하는 텍스트, 이전까지의 대화를 요약해서 전달하는 콘텐츠 요약, 답변 가이드 등 과정에 따라 LLM의 역할을 나눕니다. 기존에는 LLM이 질문을 할 경우 중간 정보가 유실되었는데, 네이버는 역할에 따라 모델에 제공하는 정보를 나눠 맥락을 보다 자연스럽게 제공하는 방식을 택했습니다.

또 적절한 결과가 나올 때까지 추론과 행동을 반복하는 ‘추론과 행동(ReAct)’ 에이전트 방식으로, 질의 목적에 맞도록 검색과 플레이스, 예약 API 등 다양한 도구를 반복 확인해 적절한 답변을 구성하고, 실제 실행까지 가능한 액션카드까지 제공합니다. 

멀티모달 에이전트 시대 준비하는 네이버 

네이버는 자사 서비스 내에서 텍스트를 넘어 이미지와 영상 등까지 이해해 수행하는 멀티모달 에이전트를 개발하려 합니다. 지금까지 LLM이 텍스트를 기반으로 이해했다면, 멀티모달 에이전트는 텍스트와 이미지 입력부터 실행까지 하나로 이해합니다. 

윤상두 네이버 퓨처 AI 센터 리더는 멀티모달 에이전트의 핵심으로 멀티모달 임베딩을 제시하며, “멀티모달 임베딩은 텍스트와 이미지 등 각기 다른 정보 입력이 같은 의미로 이해될 수 있는 기술”이라고 설명했습니다. 

특히 멀티모달 임베딩의 핵심으로 정확도와 경량화를 꼽았습니다. 윤 리더는 “멀티모달 임베딩으로 보내는 데이터가 무거우면 속도와 비용 측면에서 활용이 어렵다”며, 정확도와 경량화를 끌어올린 멀티모달 임베딩을 만드는 것이 중요하다고 설명했습니다. 

최근 국제학회인 CBPR 2026에서 발표한 자사 연구 뮤코도 그 일환입니다. 기존 단일 턴 방식에서는 질문이 바뀔 때마다 이미지를 다시 처리해 비용 비효율과 맥락 분실 등 한계가 있었다면, 뮤코 연구를 통해 이미지를 한 번 읽은 후 여러 질문을 맥락에 반영해 효율을 높인 겁니다. 

네이버는 오래 전부터 이미지 기반 서비스와 기술도 계속해서 마련하고 있습니다. 2017년 스마트렌즈를 출시했으며, 2022년에는 이미지와 텍스트를 함께 활용하는 복합 검색으로, 지난 2025년에는 스마트 렌즈와 AI브리핑을 연동해 이미지 내용을 이해하고 요약해 사용자에 제공할 수 있는 단계까지 다다랐습니다. 네이버가 보유한 멀티모달 데이터셋 규모는 약 3500만장이며, 해외 공인 벤치마크에서도 네이버의 멀티모달 모델 수준이 매우 높게 인정받았다는 설명입니다. 

윤 리더는 “스마트 렌즈 기반 시각 검색 기술과 선행 연구 기술이 어우러져, 멀티모달 에이전트 시대에 검색과 플레이스, 쇼핑, 지도, 예약 등 사용자의 실제 행동으로 연결되는 강력한 서비스로 연결될 수 있는 장점이 있다”며 “멀티모달 기술을 기반으로 실행형 에이전트 능력을 확장할 수 있는 검색 환경을 만들려 한다”고 말했습니다. 

글. 바이라인네트워크
<성아인 기자> aing8@byline.network