와이즈넛 “생성AI 시대, 결국 RAG만 살아남을 것”

“지금 살아남을 수 있는 건 RAG(검색증강생성)밖에 없어요”

20년 이상 검색엔진과 자연언어처리에 매진해온 와이즈넛의 강용성 대표의 말이다. 최근 대규모언어모델(LLM) 기반의 생성AI가 가져올 시장의 변화에 대한 진단이다.

강 대표는 <바이라인네트워크>와의 인터뷰에서 LLM의 경쟁력을 내세우는 국내 소프트웨어 업계에 비판적 태도를 취하면서 이같이 말했다. LLM을 만들었다는 국내 소프트웨어 업체의 경우 실제로 경쟁력이 있는 경우는 드물고, 트렌드에 편승한 마케팅을 노리고 있다는 것이다. 강 대표는 “엔지니어 몇 명이 남(해외)의 서버를 사다가 남의 알고리즘으로 뚝딱 만들어 놓고 과장된 마케팅을 하는 경우가 많다”면서 “우리는 그런 데에 관심이 없다”고 강조했다.

강 대표는 공공이나 금융 등 보안 규제가 큰 산업을 제외한 대부분의 기업은 GPT4를 비롯한 글로벌 생성AI 모델을 사용하게 될 것이라고 전망했다. 이렇게 되면 국내 LLM이 설 자리는 많지 않다. 오픈AI나 마이크로소프트, 구글 등과 1대 1로 붙어서 경쟁우위에 설 수 있는 국내 업체가 있을까? 결국 LLM 시장도 규모의 경제가 가능한 몇몇 글로벌 빅테크의 무대가 될 가능성이 높다.

와이즈넛이 LLM이 아닌 RAG에 집중하는 이유다. RAG는 LLM이 별도의 데이터베이스 지식을 참조해 답을 생성하는 과정을 말한다. LLM은 생성에 특화된 모델이기 때문에 엉뚱한 답을 내놓는 환각현상(할루시네이션)이 발생하는데, RAG를 통해 정해진 데이터베이스에서만 답을 생성하도록 하면 환각을 줄일 수 있다. 와이즈넛은 ‘WISE iRAG’라는 RAG 솔루션을 개발했다.

관련기사 : [그게 뭔가요] 생성AI 환각 줄이는 ‘RAG’

RAG는 와이즈넛뿐 아니라 대부분의 AI 관련 업체들이 관심을 갖는 기술이다. 환각현상을 해소하는 것이 LLM의 가장 큰 숙제이기 때문이다. RAG를 내세우는 업체들이 우후죽순으로 등장하는 상황에서 와이즈넛은 특별한 경쟁우위 요소가 있을까? 강 대표는 ‘검색’을 강조했다. 와이즈넛은 국내 1위의 기업용 검색 솔루션 업체다. 회사 측에 따르면, 고객사가 5000개에 달한다.

강 대표는 제대로 RAG를 만들기 위해서는 검색 기술이 중요하다고 강조했다. 예를 들어 매뉴얼을 기반으로 질문에 답을 해주는 서비스를 만든다고 할 때, 검색을 통해 필요한 답이 어느 부분에 있는지 찾아내는 과정이 필수적이다.

강 대표는 “검색 기술 없이 오픈소스 검색엔진 가지고 하는 곳들이 많은데, 목업(모형)이나 데모 시스템 정도는 만들 수 있겠지만 비즈니스 현장에서는 핸들링이 안 되는 게 너무 많다”면서 “검색 기술 없이 하는 건 무모하고 고객에게 품질 보장을 할 수 없다”고 강조했다.

그는 “검색엔진에서 시작해 텍스트마이닝 이런 기술을 밑단에 깔고 LLM과 조합해서 세팅을 해야 효과적인 언어시스템을 구축하게 되는 것”이라고 덧붙였다.

강 대표는 국내 소프트웨어 업계에서 다소 특이한 CEO다. 창업자가 아닌데 12년 동안 와이즈넛을 이끌고 있다. 창업자가 아닌 전문경영인이 한 소프트웨어 회사를 12년 동안 이끄는 사례는 흔치 않다.

그는 지난 12년 동안 와이즈넛을 세 배로 성장시켰다. 그가 취임하기 전 와이즈넛의 매출은 100억원 대였는데, 지난 해 351억원의 매출을 기록했다. 와이즈넛은 대규모 외부 투자없이 영업이익을 내며 성장을 지속해왔다.

강 대표의 다음 미션은 IPO다. 지난 달 코스닥 상장을 위한 예비심사청구서를 한국거래소에 제출했다. 그는 IPO를 하려는 이유에 대해 ‘글로벌 시장 공략 때문’이라고 설명했다. IPO를 통해 조달된 자금으로 글로벌 시장 공략을 위한 투자를 하겠다는 설명이다.

흥미로운 점은 강 대표가 와이즈넛의 해외사업을 중단시킨 인물이라는 부분이다. 강 대표가 취임하기 전 와이즈넛은 일본에 지사가 있었고 매출도 일으키고 있었다. 일본 이외에도 7~8개국에 수출을 했었다. 타워레코드와 같은 괜찮은 구축사례도 만들었다.

그런데 강 대표는 취임 후 해외 사업을 정리했다. 해외에서 매출이 나오기는 했지만 이익까지 나오는 상황은 아니었기 때문이다. 강 대표는 성급한 해외진출로 역량을 분산하는 대신 국내에 집중하자고 판단했다. 대신 회사의 본질을 검색 솔루션을 넘어 자연언어처리 기반의 인공지능 회사로 전환하고자 했다. 이후 와이즈넛은 텍스트마이닝, 빅데이터 플랫폼, 챗봇 등의 솔루션을 개발해 시장에 공급해왔다.

강 대표는 이제 와이즈넛이 해외에 도전장을 낼 환경이 마련됐다고 판단하고 있다. 클라우드 업체를 통해 SaaS 방식으로 제공할 기반이 마련됐기 때문이다. 과거에는 해외 진출을 위해서 진출 국가에 법인을 설립했는데, 이제는 그럴 필요가 없어졌다.

강 대표는 “챗봇을 비롯해 보유한 솔루션을 SaaS로 전환하는 과정을 진행해 왔다”면서 “SaaS 챗봇의 경우 와이즈넛이 국내에서도 가장 많은 사례를 보유하고 있다”고 설명했다. 그는 “지난 2년 동안 해외 사업을 재개를 위한 준비를 해왔다”면서 “IPO를 통해 해외사업을 본격적으로 드라이브 할 것”이라고 강조했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network

[컨퍼런스 안내]

2025 이커머스 비즈니스 인사이트 : 생존을 넘어 성장으로

일시 : 2025년 2월 18일 오후 12:30~17:30
장소 : 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실 1

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다