케이뱅크는 왜 자체 생성형AI 개발에 나설까?

인터넷전문은행 케이뱅크가 생성형 인공지능(AI) 구축에 나섰다. 은행 직원들이 문서를 요약하거나 보고서를 작성할 때 생성형AI를 이용할 수 있도록 하기 위한 취지다. 이와 별개로 케이뱅크는 뱅킹 앱에 생성형AI를 활용한 금융 서비스를 선보일 예정이다. AI 스타트업 업스테이지와 협업해 고객의 신용 관리를 돕는 서비스를 준비 중이다. 

케이뱅크는 지난 21일 ‘프라이빗 거대언어모델(LLM) 구축 사업자 선정’을 위한 공고를 냈다. 케이뱅크는 사업자 선정을 통해 약 5개월간 구축 작업에 돌입, 이르면 연내 프라이빗 LLM 구축을 목표로 하고 있다. 

공고에 따르면, 케이뱅크가 구축하려는 LLM은 대내용으로 보인다. 내부 직원들이 사용하는 대내용 LLM을 구축하기 위해 금융 도메인에 특화된 한국어 기반의 프라이빗 LLM을 구축할 계획이다. 프라이빗 LLM은 기업의 내부 데이터로 가공되어, 직원들의 업무에 최적화한 것이 특징이다. 고객분석, 마케팅 등 다양한 부문에서 활용될 수 있다. 

케이뱅크는 금융 도메인에 특화한 한국어 선행학습(Pre-trained) 모델을 만들어, 직원들이 문서요약, 보고서 작성 등 내부 업무에 활용할 수 있도록 할 계획이다. 금융에 특화한 데이터를 학습시키는 만큼 고객들을 위한 대외용 LLM 서비스도 가능하다. 케이뱅크는 데이터셋을 사용해 추가 학습을 하고, 생성형AI와 효율적인 상호작용을 위해 사용자 명령(프롬프트) 등을 개발할 계획이다.  

케이뱅크 관계자는 “이번에 구축하는 프라이빗 LLM은 금융 특화 한국어 기반 모델 확보와 내부 업무 개선 등에 활용할 계획”이라며 “케이뱅크에 맞는 범용 한국어 기반 모형을 위한 것”이라고 설명했다. 

케이뱅크가 퍼블릭이 아닌 프라이빗 LLM을 구축하는 것은 금융권 IT환경 규제 때문이다. 개인정보보호법 등 관련 법에 따라, 금융권은 고객의 이름이나 주민등록번호 등 식별 가능한 데이터를 활용하거나 학습할 수 없다. 이런 실명정보를 특정인으로 알아볼 수 없도록 가명정보로 처리하고 나서야 데이터를 학습하거나 활용할 수 있다. 이때 IT 시스템은 외부망이 아닌 내부 시스템을 통해 이뤄져야 한다. 따라서 금융권이 LLM을 이용하기 위해선 자체 구축한 데이터센터를 활용한 프라이빗 환경으로 구축할 수 밖에 없다. 

아울러, 이번 사업에 포함되는 것은 아니지만 케이뱅크는 자체 뱅킹 앱에 생성형AI를 접목한 금융비서 서비스를 내놓을 계획이다. 고객의 돈이 통장에서 들어오고 나가는 것을 알려주고 관리하는 것을 돕는 역할이다. 예를 들어, 케이뱅크는 알림을 통해 카드 대금이 얼마나 빠져 나갔는지, 급여가 얼마나 들어왔는지 안내한다. 나아가 신용카드 대금 결제에 앞서 통장 잔액이 부족하다면, 부족분을 채워 넣으라는 알림을 보내는 방식이다. 궁극적으로 고객이 연체, 미납 등의 문제를 방지해 신용 관리를 돕는 것을 목표로 한다.  

이를 위해 케이뱅크는 지난 2월 업스테이지, KT, kt 클라우드와 생성형AI 기술 적용, 확산을 위한 업무협약을 맺었다. 케이뱅크의 역할은 생성형AI 도입 효과와 분석 결과를 기반으로 상품과 서비스를 기획하고 개발한다. 업스테이지의 프라이빗 LLM인 솔라를 활용한다. 

한편, 금융권의 생성형AI에 대한 수요는 점점 커지고 있다. 이미 금융권은 챗봇이나 인공지능 콘택트 센터(AICC) 등에 AI를 도입했다. 그러나 아직까지 제한적인 질문과 답변만을 제공하는 한계가 있으며, 금융 언어, 데이터 등에 특화되어 있지 않다. 반면, LLM은 별도의 학습을 통해 금융권에 특화할 수 있고, 다양한 업무에서 활용이 가능해 효율적이다. 금융권이 생성형AI에 대한 수요가 높은 이유다.  

LLM 스타트업에서 제품을 총괄하고 있는 한 고위 임원은 “LLM은 대내, 대외용에서 활용 가능하며 한 번 구축하면 업그레이드 등을 통해 계속해서 쓸 수 있다”며 “그동안 외주에 맡기던 일을 LLM이 대신해 비용을 아끼고, 금융에 대한 이해도가 높은 상태에서 업무 성과를 낼 수 있다”고 말했다. 

글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network