[금융권 스타트업 협업①] KB국민은행은 왜 신생 ‘티냅스’를 택했나

금융권과 스타트업의 협업이 단순한 기술 도입을 넘어 실제 금융 서비스와 새로운 사업 기회를 만들어내는 방식으로 확장되고 있다. 금융사는 스타트업의 기술을 활용해 새로운 해법을 찾고, 스타트업은 금융사의 인프라와 고객 접점을 통해 사업 가능성을 현실화하고 있다.

디캠프와 한국핀테크지원센터는 이러한 협업을 활성화하기 위해 올해 6월 ‘스타트업 OI(오픈이노베이션) #금융권’을 개최했다. 총 44건의 협력 사례 가운데 5개 사례를 선정해 금융기관 담당자와 스타트업이 협업 과정 등을 공유했다.

최종 선정된 ▲KB국민은행-티냅스 ▲우리은행-테라파이 ▲카카오뱅크-웰로 ▲신한카드-왓섭 ▲OK저축은행-고이장례연구소를 차례로 만나 협업의 배경과 과정, 실제 사업으로 이어진 이야기를 들어봤다. [편집자주]

KB국민은행과 인공지능(AI) 에이전트 신뢰성 검증 스타트업 티냅스는 금융 AI의 답변 신뢰성을 높이기 위한 협업을 진행했다. AI가 생성한 금융 답변을 고객에게 전달하기 전에 현업 기준에 따라 검증하고, 통과·차단·재검토 여부를 판단하는 체계를 공동으로 구축한 것이다. 이를 통해 생성형 AI 활용 과정에서 발생할 수 있는 오류와 리스크를 사전에 점검할 수 있는 기반을 마련했다.

이들의 협업은 KB금융지주의 스타트업 육성기관 KB이노베이션허브센터가 운영하는 ‘KB 오픈이노베이션 프로그램’을 통해 구체화됐다. 국민은행과 티냅스는 금융상담 에이전트의 금융 특화 실시간 답변 평가 모델을 설계하고, 검색증강생성(RAG) 기반 답변 신뢰성 검증 기술을 적용하는 공동 사업 과제를 수행했다. KB 오픈이노베이션은 스타트업이 KB금융 계열사와 개념검증(PoC)을 진행하며 기술을 실제 금융 업무에 적용할 수 있도록 지원하는 프로그램이다.

성과도 확인됐다. 국민은행은 티냅스와의 협업을 통해 AI가 사실과 다른 정보를 생성하는 ‘환각(할루시네이션)’ 현상을 90% 이상 사전 차단하고, 생성형 AI 기반 금융상담 에이전트의 오답 위험을 낮췄다고 밝혔다. 향후에는 수·여신과 퇴직연금 등 영업 현장의 주요 상담 영역으로 활용 범위를 확대하고, 답변 정확도를 높이기 위한 기술 고도화를 이어갈 계획이다.

지난 6월 열린 디캠프 ‘스타트업 OI #금융권’에서는 이러한 협력 성과를 인정받아 국민은행과 티냅스가 금융위원장상인 올해의 협력상을 수상했다. 지난해 8월 설립된 티냅스는 AI 기술금융사 PFCT(피에프씨테크놀로지스, 구 피플펀드) 최고기술책임자(CTO), 최고정보보호책임자(CISO), 개인정보보호책임자(CPO)를 역임한 강민승 대표를 중심으로 구글코리아 리서치 출신 AI 연구자 등이 합류한 스타트업이다. 현재까지 누적 49억원의 투자를 유치했다.

강 대표와 이나영 국민은행 금융AI2센터 대리를 만나 금융 AI의 신뢰성을 높이기 위해 어떤 문제를 발견했고, 어떻게 해법을 마련했는지 들어봤다.

–국민은행과 티냅스의 협업 계기는

시중은행들이 최근 AI 관련 사업을 적극적으로 추진하고 있는데, 국민은행은 조금 더 일찍 지난해부터 AI 플랫폼 사업을 시작했다. 임직원을 대상으로 업무 상담 에이전트 운영을 시작한 것도 지난해 4월이었다.

AI 에이전트를 실제 업무에 활용하려고 보니 신빙성이 떨어지는 답변이나 오답이 나오는 문제가 있었다. 직원들이 대고객 상담에 활용하는 도구인데, 답변의 신뢰도가 확보되지 않으면 서비스를 활성화하기 어렵다는 판단을 하게 됐다. AI 에이전트에서 잘못된 답변이나 할루시네이션(환각)을 사전에 차단하고, 답변에 오류가 있는지 검증할 수 있는 방법이 필요했다.

티냅스가 필요한 솔루션을 보유하고 있었고, 실제로 이런 문제를 해결할 수 있는 경험과 이력을 가진 팀이었다. 그래서 함께 협업해서 문제를 풀어보자는 것이 계기가 됐다.(이나영)

처음에는 AI의 어떤 영역에서 창업을 해야겠다는 생각으로 시작했다. 다만 구체적인 아이템을 정한 상태에서 퇴사한 것은 아니었다. 회사를 나올 때까지는 맡은 업무에 최선을 다했고, 퇴사한 뒤에 ‘이제 무엇을 해야 할까’라는 고민을 했던 것 같다. 국민은행에는 기술적으로 우리가 잘할 수 있으니, 가장 어렵고 고민이 많은 과제 하나를 맡겨달라고 했다.

운이 좋았다고 생각하는 부분도 있다. 국민은행 의사결정자의 판단이 컸던 것 같다. 다른 금융권을 만나보면 여전히 보수적인 편이고, 회사의 인원이 몇 명인지, 개념검증(PoC)을 넘어 상용 계약을 어디와 했는지 등을 중심으로 판단하는 경우가 많다. 국민은행이 의사결정을 빨리 해줘서 놀랐다. 작은 기업이라는 점에 개의치 않고 기회를 준 데 대해서 감사하게 생각하고 있다.(강민승)

–신생 스타트업이어서 걱정은 없었는지

대체로 협업을 큰 회사들과 많이 하는 편이다. 좋은 결과를 낸 기업들도 굉장히 많았지만, 회사의 규모가 무조건 좋은 결과를 내는 건 아니었다. 실제로 규모 있는 그룹들과 프로젝트를 진행했을 때도 원하는 니즈를 제대로 해결하지 못했던 사례도 있었다.

티냅스와 협업 전 이미 다른 스타트업들과 PoC를 진행한 사례가 있었다. 회사 규모와 상관없이 아이템이나 아이디어만으로도 충분히 좋은 결과를 낼 수 있다는 경험이 어느 정도 쌓여 있었다.

내부에서 의사결정을 하는 임원진들 또한 의사결정에 비교적 열려 있는 편이다. KB금융지주 차원에서도 계열사들의 과제를 받아 스타트업과 연결하는 오픈이노베이션프로그램을 자체적으로 운영하고 있다.(이)

-AI 신뢰성 검증 솔루션을 위한 각 기업의 역할은

티냅스에서 제공하는 모델을 통해 실시간으로 AI의 답변이 잘못됐는지를 검증한다. 가령 은행이 챗GPT 같은 AI 모델을 활용할 때 잘못된 판단을 하거나 문장을 지나치게 단정적으로 표현하는 경우가 있다. 가령 에비타(EBITDA·법인세·이자·감가상각비 차감 전 영업이익)가 마이너스 50억원에서 마이너스 40억원이 됐다고 했을 때 이를 ‘회복했다’고 표현하면 안 되는데, AI가 잘못 답변하는 식이다.

AI 모델 입장에서는 이런 답변이 왜 잘못됐는지 판단하기 어렵다. 은행마다 업무 기준과 정책이 다르고, 그 기준에 따라서는 사용해서는 안 되는 표현도 있는데 AI 모델이 각 은행의 기준에 맞춰 답변을 수정해 주는 것은 아니다.

이처럼 답변이 은행의 기준에 맞는지 검증하고, 잘못된 답변을 걸러내는 역할을 누가 맡을지가 비어 있는 영역이었다. 티냅스가 그 역할을 하는 것이다.(강)

답변이 올바른지 판단하려면 기준이 되는 정답이 필요하다. 특히 금융 도메인(특정 산업 분야의 전문 영역)은 국민은행만의 내규나 업무 기준이 있기 때문에, 어떤 답변을 허용하고 차단할지에 대한 기준을 은행이 마련해야 했다.

국민은행은 현업 부서별 담당자들과 협의해 AI가 생성한 답변이 맞는지 틀리는지를 검증하고, 틀린 답변이라면 어떤 내용으로 답해야 하는지까지 정리했다. 여러 부서에서 확인한 내용을 바탕으로 정답지를 만들어 티냅스에 전달했고, 티냅스는 이를 기반으로 모델을 튜닝(특정 목적에 맞게 AI 모델의 성능을 조정하는 작업)했다.

은행은 올바른 데이터를 제공하는 동시에 AI의 결괏값이 실제 업무 기준에 맞는지 검수하는 역할을 맡은 셈이다.(이)

-향후 협업 방향은 무엇인가

현재는 국민은행 임직원을 위한 서비스지만, 올해 중 대고객 서비스로 확대할 계획이다. KB스타뱅킹 애플리케이션(앱)에서 고객들이 상품 관련 질문을 하면 답변하는 등 간단한 영역부터 시작하려고 한다. 스타뱅킹에서 카드·증권·손해보험·생명보험 등 다른 계열사 업무까지 연결할 수 있는 만큼, 향후에는 이런 영역으로도 협업 범위를 넓혀갈 수 있다.

대고객 서비스는 임직원용보다 훨씬 다양한 질문과 표현이 들어오기 때문에 예상하지 못한 답변까지 고려해 더 엄격한 검증 과정이 필요하다. 특히 고객에게 직접 제공되는 서비스인 만큼 답변의 신뢰성을 확보하는 작업이 중요하다. 초기에는 개인정보를 최대한 취급하지 않는 방향으로 서비스를 설계할 예정이다.(이)

티냅스 안에서도 여러 AI 모델이 답변이 맞는지 서로 검증하는 과정을 거친다. 각 모델이 서로 다른 기준으로 답변을 평가하기 때문에 의견이 갈리는 경우도 있다.

이처럼 모델 간 판단이 엇갈려 신뢰도가 낮은 답변은 바로 통과시키지 않고 담당자에게 확인을 요청하거나 관련 부서로 넘긴다. 특히 의사결정에 미치는 영향이 크거나 위험도가 높은 질문은 AI의 판단만으로 답변하지 않고 담당자가 한 번 더 확인하도록 한다.

현재 다른 시중은행과의 PoC도 확정됐고, 대기업과도 협업을 논의하고 있다. 은행뿐 아니라 계열사가 많은 기업을 중심으로 고객사를 확대해 나갈 계획이다.(강)

–대고객 서비스로 확대하면 은행 고객들이 체감할 수 있는 변화는

지금도 앱으로 다양한 업무를 처리할 수 있지만, 복잡하거나 상담이 필요한 사안은 영업점을 직접 찾아가야 하는 경우가 있다. AI가 숙련된 직원이 상담하는 수준까지 고도화되면 이런 대면 방문과 대기시간을 줄일 수 있을 것으로 본다.

특히 AI를 통해 복잡한 기능도 보다 쉽게 이용할 수 있게 되면 기존 앱 사용에 불편을 느끼던 젊은 고객층의 유입에도 도움이 될 수 있다. 단순히 업무를 편리하게 만드는 것을 넘어 새로운 고객을 확보하고 수익성을 높이는 효과까지 기대하고 있다.(이)

–향후 계획은

일본은 현지 파트너사와 함께 은행 시장 진출을 추진하고 있다. 올해 중 일본을 비롯해 미국과 아시아·태평양 지역으로 사업을 확대할 계획이며, 마이크로소프트 등 빅테크와의 협력도 추진하고 있다.

신뢰성 검증은 데이터를 활용하는 AI 전 영역에서 필요한 문제인 만큼 시장 자체가 크다고 보고 있다. 그 시장의 0.1%만 차지해도 상당한 규모의 사업으로 성장할 수 있다고 생각한다.(강)

–금융권 AI가 향후 어떤 방향으로 진화할 것으로 보나

금융권 AI는 직원들의 반복적인 업무를 줄이고 업무 효율을 높이는 방향으로 발전할 것으로 본다. 국민은행도 영업점 직원의 업무를 지원하는 에이전트에 이어 본부 부서의 반복적인 업무를 줄이는 에이전트를 단계적으로 도입하고 있다.

특히 신용평가나 각종 분석·보고서 작성처럼 반복적으로 발생하는 업무는 AI가 효과적으로 대체할 수 있는 영역이다. 금융권에서 AI를 도입하는 이유도 결국 업무 효율화에 있고, 장기적으로는 인건비 절감으로도 이어질 수 있다고 생각한다.(이)

글. 바이라인네트워크
<이수민 기자>Lsm@byline.network

글. 바이라인네트워크
<오민선 기자>omsoms94@byline.network