라이너, LLM 토큰 비용 50% 절감하는 ‘라이너 모델 API’ 출시

AI 에이전트 스타트업 라이너가 AI 오케스트레이션 솔루션(AI Orchestration Solution)인 ‘라이너 모델 API(Liner Model API)’를 출시했다.

15일 라이너에 따르면, 라이너 모델 API는 질문에 따라 최적의 모델을 선별해 거대언어모델(LLM) 토큰 비용을 50% 이상 절감할 수 있는 제품이다.

회사는 제품 출시 배경에 대해 “현재 AI 시스템을 구축하는 대부분의 기업은 답변 품질을 위해 고가의 프런티어급 모델 하나로 모든 사용자 질문을 일괄 처리하는 방식을 취하고 있다”며, “실제 유입되는 질문 난이도가 제각각임에도 모두 상위 모델로 처리하다 보니 불필요한 인프라 비용이 급증하는 구조적 한계가 존재한다”고 설명했다.

라이너 모델 API는 상위급 모델 수준의 답변 정확도를 유지하면서도 토큰 비용을 50% 이상 절감해 기업의 인프라 부담을 대폭 낮춘다. 복잡한 로직 구현 없이 기존 API 교체만으로 즉시 적용할 수 있다.

라이너는 라이너 모델 API에 정밀한 오케스트레이션 기술을 적용했다. 라이너의 독자적 모델 평가 체계와 실사용 환경에서 축적한 성능 경험을 바탕으로, 질문 유형별로 최적의 모델을 정밀하게 선별한다. 라이너는 지금까지 라이너 검색과 라이너 스콜라, 라이너 라이트, 라이너 파이낸스 등 다양한 서비스를 운영해왔다.

이 때문에 코딩과 수학 등 고난도 질의는 상위 모델로, 단순 지식형 질의는 경량 모델로 효율적으로 배분해, AI를 이용하는 기업 입장에서는 불필요한 지출을 차단할 수 있다.

라이너의 실사용 환경 자체 데이터 평가 결과, 고성능 모델로 배정된 질의의 비중은 약 43%로 나타났다. 코딩, 수학, 복합 추론이 필요한 고난도 질의는 상위 모델로 배정해 정확도를 극대화하고, 나머지 57%의 일반 질의는 효율적인 모델로 배분해 정답률 손실 없이 비용 절감 효과를 끌어올렸다.

라이너는 실제 이용자가 요청하는 다양한 질의 내용을 정밀하게 반영하고자 비식별 처리된 대표 질의 데이터셋을 구축해 이번 성능 검증을 진행했다. 일상적 탐색부터 업무 처리, 학술 연구에 이르기까지 다변화된 이용 패턴을 종합 분석해 모델 배정 알고리즘을 최적화했으며, 이를 통해 서비스 안정성과 성능을 동시에 확보했다.

김진우 라이너 대표는 “모든 질문을 상위 모델로만 처리하는 방식은 간단한 계산에 매번 슈퍼컴퓨터를 동원하는 것과 같다”라며, “끊임없이 쏟아지는 신규 모델의 성능과 단가를 개발사가 매번 검증하고 교체해야 하는 번거로움을 라이너 모델 API가 해결할 것”이라고 밝혔다. 이어 “기업들이 비용 부담과 모델 선택의 피로감에서 벗어나 핵심 업무 혁신에만 몰입할 수 있는 환경을 만들겠다”라고 강조했다.

글. 바이라인네트워크
<성아인 기자> aing8@byline.network