[인터뷰] 업스테이지는 어떻게 고객 70%를 금융사로 확보했나

금융권은 IT 신기술을 도입하는데 보수적이면서도 가장 관심을 보이는 산업군이다. 금융은 자금과 직결되어 보안을 강화해야 하는 과제가 있는 동시에, 수많은 거래를 처리하기 위한 시스템과 기술이 뒷받침 되어야 한다. 금융권이 최근 생성형인공지능(AI)에 관심을 보이고 있는 이유이기도 하다. 다만, 챗GPT처럼 상용화된 버전을 그대로 이용하는 것이 아닌, 금융에 특화된 생성형AI에 대한 수요가 높은 편이다.

국내 생성형AI 스타트업 업스테이지는 금융권의 폭발적인 AI 수요를 흡수하고 있다. 지난해 12월 자체 거대언어모델(LLM) 솔라를 출시한 후 빠른 속도로 보험사, 증권사 등의 고객을 확보하고 있다. 금융에 특화된 데이터 학습과 개인정보 처리 기술, 망분리 규제로 인한 온프레미스 시스템 구축 등이 업스테이지가 금융권 고객을 사로잡은 비결이다.

무엇보다 이러한 성과에는 숨은 공신이 있다. 지난해 업스테이지에 합류한 최홍준 부사장은 라인 뱅크, 라이나생명 등에서 디지털 전략, 사업 개발을 지휘한 디지털 금융 전문가다. 금융권이 AI를 어디에 어떻게 활용하고 싶은지, 이를 위해 시스템 개발이나 보안 전략을 어떻게 가져가야 할지 등 금융권의 세부 요구사항에 대해 잘 아는 인물이다.

최 부사장은 업스테이지에서 기업간기업(B2B) 사업전략, 솔루션 개발 등 전반을 총괄하는 기업비즈니스 솔루션(EBS) 리더를 맡고 있다. 지난 28일 최홍준 부사장을 만나 업스테이지가 금융권 고객을 확보할 수 있었던 이야기를 나눠봤다.

금융권에서 AI 스타트업에 합류한 계기가 무엇인지?

라이나생명 재직 시절 업무적으로 김성훈 업스테이지 대표를 만났다. 당시 김 대표가 기업간기업(B2B) 사업을 하기 위해 어떤 전략을 가져야 할지 물었다. 경험을 토대로 다양한 조언을 해줬는데, 김 대표가 합류를 제안해 고민 끝에 업스테이지로 오게 됐다.

금융권의 솔라에 대한 수요는 어느 정도인가?

금융권의 생성형AI에 대한 수요는 폭발적이다. 고객이 거래를 하기 위한 모바일 기술과 보안 등이 발전됐다. 반면, 금융 시스템은 그렇지 않다. 대표적으로, 금융권의 마케팅은 사람이 직접 하며, 사람의 영향력이 크다. 아직까지 많은 사람들이 보험상품이나 예적금상품을 지인 추천을 통해 가입한다.

이런 분위기가 생성형AI의 등장 후 달라졌다. 마케터가 마케팅 문구 등을 요청하면 생성형AI가 객관적으로 답을 해준다. 금융사는 솔라 등 LLM을 구축하면 계속 사용할 수 있어 별도의 마케팅 비용이 들지 않고 시간을 단축할 수 있다.

챗봇 서비스도 마찬가지다. 지금까지 금융권의 챗봇 서비스는 고객이 자주 묻는 질문을 유형화해, 고객이 질문을 누르면 답을 볼 수 있도록 했다. 정작 사용자가 묻고 싶은 질문이 없을 때가 많다. 생성형AI가 도입되면 챗봇을 통해 고객에게 정확한 메시지를 전달할 수 있다.

저희는 검색증강생성(RAG)을 통해 솔라의 할루시네이션(허위정보)을 약 99%까지 없애는 개념검증(PoC)을 했다. RAG는 솔라가 고객이 묻는 질문에 금융사 내부 규정 지침을 분석, 고객에게 정확한 답변을 제공하는 것을 말한다. 보이스, 이미지, PDF, 팩스 등의 비정형 데이터를 LMM이 잘 이해할 수 있게 자연어를 벡터화로 전환하는 임베딩 모델이 수준이 많이 올라왔다.

금융권의 생성형AI에 대한 수요가 높은 또 다른 이유는 데이터 분석 시 이해도가 높다는 점이다. 금융권으로부터 외주를 받은 데이터 분석가들이 금융업에 대한 이해도가 낮아 정확한 맥락을 짚기 어려운 점이 있었다. 반면, 생성형AI는 연동하면 흩어진 데이터를 분석해 이러한 문제를 해결할 수 있다.

업스테이지의 전체 고객 중 금융권은 얼마나 되나?

LLM 모델 솔라와 OCR 솔루션인 다큐먼트AI를 포함해 금융권 고객 비중은 약 70% 정도다. 보수적인 금융권이 스타트업의 기술을 쓴다는 점은 주목해야 할 대목이다. 금융권 고객을 확보하려면 고객 사례가 필요하고, 금융사의 시스템과 연동해 운영 이슈가 없어야 한다. 업스테이지는 제품개발자, AI 개발자와 금융권 IT 개발, 운영팀장 출신으로 구성됐다.

B2B LLM인 솔라를 도입하려면 커스터마이징이 필요할텐데, 금융권의 공통적인 특징이 있는지?

비즈니스 생태계를 이해하지 못하면 새로운 기술을 고객에게 전달할 수 없다. 업스테이지는 새로운 제품을 만들 수 있는 파트너십을 맺고 있다. 업스테이지는 고객의 요구사항을 솔라에 반영하고, 이를 고객사의 시스템과 통합하는 역할을 시스템통합(SI) 파트너사에 맡기는 방식이다. 얼마 전 케이뱅크와 KT, kt클라우드 등과 파트너십을 맺은 것이 대표적이다.

금융권은 망분리 규제를 적용받는데, AI 등을 활용하는데 제한적이지 않나?

관련해 가이드라인이 있다. 결국 생성형AI에 금융사 내부에 데이터가 아닌, 공개돼있는 데이터를 활용할 수밖에 없다. 생성형AI는 고객사 데이터센터 내에서 데이터가 보호되는 범위 안에서 운영이 되어야 한다. 이런 점에서 솔라는 고객사 내부망에 구축하는 온프레미스 방식으로 운영할 수 있다. 정기적으로 유지보수, 업그레이드 등을 한다.

온프레미스로 생성형AI를 구축했다고 하더라도, 가명정보 활용에 대한 제한이 있지 않나?

결국 (금융사는) 내부 데이터를 적재할 때 고객식별정보를 활용한다. 예를 들어 A라는 고객의 주민등록번호를 활용하는 것이 아니라, 고객번호 값으로 활용한다. 업스테이지는 개인정보보호법, 신용정보보호법에 따라 고객 개인정보를 자동으로 마스킹하는 기술을 보유하고 있다. 생성형AI가 금융사 내부 (시스템)에서 운영되지만, 학습을 하지 못하도록 하기 위한 것이다.

챗GPT를 제친 솔라

지난해 말 솔라를 내놨다. 글로벌 기업들이 내놓은 LLM 대비 강점은 무엇인지?

솔라의 강점은 명확하다. 언어모델, 생성형AI를 도입하려면 초기 비용이 많이 든다. 솔라는 글로벌 LLM 대비 초기 비용이 저렴하다. 글로벌 모델은 2000억~5000억개 이상의 매개변수를 가진 반면, 업스테이지는 107억개의 매개변수를 가졌다. 그럼에도 불구하고 GPT-4o보다 좋은 성능을 내고 있다.

그 나라의 언어와 문화를 잘 반영한 모델을 만들 수 있다는 점도 업스테이지의 강점이다. 지난해 허깅페이스의 평가를 통해 솔라가 GPT-3.5보다 높은 평가를 받았다. 연내 태국 모델을 만들 계획이다.

허깅페이스가 주최한 글로벌 오픈소스 LLM 성능 평가에서 솔라가 챗GPT를 제칠 수 있었던 이유는 무엇인가?

핵심은 데이터의 질(퀄리티)과 단시간에 데이터를 정형화(클렌징)할 수 있는 실력이다. 많은 스타트업, 중소기업들이 데이터 클렌징을 위해 개발 기간의 50%를 소요한다. 업스테이지는 평균 3개월에서 6주 안으로 데이터 클렌징 시간이 상대적으로 짧다.

언어모델은 맥락이 있는 데이터가 필요하다. 저희가 가진 광학문자인식(OCR) 기술은 사진, 이미지, PDF파일 등의 데이터를 LLM이 활용하기 좋은 유형으로 변형한다. 결국 다른 기업들보다 단 기간에 데이터 클렌징을 할 수 있어 개발 시간을 단축할 수 있다.

관건은 데이터 확보일 것 같은데 영어나 일본어 등 외국어 데이터셋은 어떻게 확보하나?

기본적으로 허깅페이스, 깃허브 등의 플랫폼에 전세계 개발자들이 오픈소스로 올려놓은 데이터를 활용한다. 중요한 것은 이것을 어떻게 요리하는지다. 또 문화를 반영하기 위해 해당 국가의 교과서나 소설책, 사전 등의 데이터를 학습한다.

지금까지 아숙업, 다큐먼트AI, 솔라 등 다양한 서비스를 내놨다. 그 중 솔라를 중심으로 사업 전략을 가져갈 것인지?

그렇다. 솔라는 영화 헐(HER) 속 ‘사만다’, 아이언맨의 ‘자비스’ 수준의 비즈니스 업무 비서를 목표로 한다. 업무를 위한 범용인공지능(AGI for work)이라는 슬로건 하에 솔라를 개발하고 있다.

솔라의 수익모델은 어떻게 되나?

여러 가지다. 온프레미스로 하는 엔터프라이즈 과금체계, 서비스형소프트웨어(SaaS) 과금체계 등이 있다.