“플랫폼 2.0” KB국민은행이 그리는 금융 AI 확장 로드맵
KB국민은행은 마이크로소프트와 협력하며 발빠르게 AI 에이전트 플랫폼을 구축하고 현업 업무에 60개 이상의 AI 에이전트를 도입했다. 그 결과 업무 처리 시간을 단축하는 등의 효과를 입증했다. 이제 AI 에이전트 효과의 전사적 확산을 위한 새로운 플랫폼 마련으로 고민이 이동했다. 금융 규제 조건과 보안성을 충족하면서 최신 기술을 발빠르게 활용할 수 있는 기반으로 ‘플랫폼 2.0’을 구축하고, 금융 특화 가드레일을 개발해 AI의 신뢰성과 안전성도 확보했다.
김지영 KB금융지주 KB국민은행 금융 AI 2센터 부장 겸 AI Dev센터장은 지난달 30일 서울 삼성동 코엑스 그랜드볼룸에서 개최된 ‘마이크로소프트 인더스트리 서밋 2026’ 금융 세션에서 ‘KB국민은행의 지능형 대고객 서비스와 에이전틱 업무 혁신’을 주제로 발표했다.
KB국민은행은 이미 60여개의 AI 에이전트를 내부 업무에 활용하고 있다. 개인금융(PB), 기업금융(RM), 금융 상담, 여신 심사, 민원 등이 주요 활용 영역이다. PB 에이전트는 시장 분석, 포트폴리오 리밸런싱, 보고서 작성 등을 지원한다. RM 에이전트는 산업 재무 분석, 신용 의견 작성 등을 지원하고 있다. 금융 상담 에이전트는 상품과 제도, 절차에 대한 상담을 지원하며, 여신 심사 에이전트는 심사 보조와 기업 모니터링 및 조기 경보에 활용된다. 민원 상담 에이전트는 민원 요약과 유형 분류, 회신문 초안 작성 등을 수행한다.
가장 대표적인 에이전트 사례인 민원 상담 에이전트는 고객 응대 시간을 대폭 줄였다. 평균 처리일수가 19.7일에서 8.4일로 줄었고, 미종결 민원이 1204건에서 278건으로 감소했다.
김지영 부장은 “민원 업무는 내용을 정확히 이해하고 관련 정보를 확인한 뒤 답변을 준비해야 되는 업무라서, 14일 안에 회신하려면 처리 속도뿐 아니라 최종 답변에 대한 신중한 검토가 더욱 중요하다”며 “이 과정에 오랜 시간을 들여야 했고 미종결 건수가 많았는데, AI 에이전트 도입으로 민원 처리 과정을 종전 5단계에서 3단계로 줄였다”고 설명했다.
민원 상담 처리 프로세스는 기존에 접수, 자료 검색, 내용 정리, 회신문 작성, 고객 답변 등의 순이었다. 민원 접수와 최종 답변 사이의 자료 검색부터 답변서 작성 단계까지를 AI 에이전트에게 맡겼다. AI 에이전트는 민원 내용을 확인해 요약하고 유형을 분류한 뒤 자료를 탐색해 회신문 초안을 작성한다. 직원은 민원 사실을 확인하고 에이전트의 초안을 최종 검토해 고객에게 답변한다.
KB국민은행은 AI 에이전트 활용의 다음 단계를 고민하고 있다. 에이전트의 양산, 즉 금융 AI 센터에서 제작한 에이전트와 현업 부서 업무 수요 사이의 간극을 줄이는 일이다. 개발부서에서 만든 에이전트가 100% 현업에 가장 필요한 에이전트일 수 없다. 부서마다 다양한 업무 방식이 있고, 자동화하고자 하는 부분이 다양하다.
김 부장은 “AI 에이전트로 금융 업무의 변화를 만들고 있다”며 “효과 큰 업무부터 신속하게 적용하면서 업무 처리 시간을 줄이고 AI 에이전트의 품질과 일관성을 높이고 있으며, 검증된 사례는 그룹 전 계열사로 확장하는 단계에 있다”고 말했다.
김 부장은 “부서에서 내부 업무 자동화를 요청하면 금융 AI 센터에서 에이전트를 만드는 방식은 많은 에이전트를 만들어냈지만, 확산에 제한적”이라며 “요청이 한곳에 집중되니 수요가 늘수록 대응 속도가 느려지는 AI 센터가 확산의 병목이 됐다”고 설명했다. 또 “대표 과제 중심으로 개발하다보니 유즈케이스의 다양성에도 한계가 있었고, 현업의 아이디어가 실제 실험으로 이어지기 어려웠으며, 현업이 직접 만들고 개선할 기회도 적었다”고 덧붙였다.
KB국민은행의 금융 AI 센터는 현업 부서의 불편과 반복 업무를 담당자가 직접 찾아 실험할 구조를 만들 수 있는 구조로 방향을 전환했다. 현업이 직접 에이전트를 만드는 AI 랩을 시작하고고, 업무를 가장 잘 아는 현업이 도메인 지식으로 문제를 찾고 직접 에이전트를 만들 수 있게 했다. AI 센터의 역할은 기술과 플랫폼을 지원하는 것으로 바뀌었다.
KB국민은행 직원은 AI 아카데미에서 방법을 배우고 AI 랩에서 직접 만들어 실행할 수 있다. AI 랩에 은행 소속 직원 45명, 카드사 소속 6명 등 총 51명이 참여했다. 2주일의 AI 심화 교육과정과 10주의 실전 프로젝트를 진행했다. 은행에서 19개의 AI 과제를, 카드에서 2개의 AI 과제를 도출해 실제 업무에 AI를 적용했다. 은행뿐 아니라 계열사의 현업도 자신의 업무에서 아이디어를 직접 발굴하고 에이전트로 만들어 볼 수 있도록 AI 에이전트 챌린지도 열었다. 116개 팀 316명이 참여해 12개 팀이 본선에 진출했다.
김 부장은 “경진대회를 통해 현업이 직접 아이디어를 발굴하고 실제 동작을 보여줬으며, 이렇게 검증된 우수 사례를 전 계열사로 확산해 업무에 적용하는 흐름을 만들었다”고 말했다.
에이전트를 안정적으로 운영하고 확산하려면 공통 체계 정비가 필수다. 에이전트 양산을 위한 핵심 과제는 4가지였다. 누구나 에이전트를 만들 수 있는 플랫폼, 안전한 개발과 운영 환경에 부합하는 규제 준수 및 보안, 자유로운 실험 속에서의 비용 통제, 고도화된 성능과 신뢰 확보를 위한 품질 검증(QA) 등이다.
플랫폼은 기존의 모노리식 구조에서 마이크로서비스 구조로 전환했다. 오케스트레이션(A2A), 모델 서비스, 메모리 서비스, 가드레일, 평가, 권한 및 인증 등으로 서비스를 모듈화해 필요에 따라 기능을 빠르게 연결, 교체할 수 있도록 했다. 노코드와 프로코드를 모두 지원하고, 문서 수집, 파싱, 청킹 등을 관리하며 여러 모델을 활용할 수 있는 플랫폼을 구축하고 있다.
보안은 혁신 금융 서비스 승인 요건과 망분리 규제를 준수하고, 마이크로소프트 애저 API 매니지먼트(APIM)를 통해 공통으로 통제하는 체계를 갖추고 있다. 비용은 안정적인 처리 용량을 확보하고, 업무에 맞는 모델을 선택하며, 프롬프트 캐싱으로 자원 사용을 줄이는 데 집중했다.
김 부장은 “플랫폼 2.0의 핵심 목표는 고객 여정을 기반으로 에이전트를 연결하고, 빠르게 AI 기술 변화 속도에 대응하는 것”이라며 “다양한 그룹 내 채널을 연계하고 리더 에이전트가 필요한 전문 에이전트를 조율하며, 고객 요청에 따라 여러 에이전트가 함께 업무를 수행하도록 하는 것”이라고 밝혔다.
그는 “각 기능을 루스드 커플링으로 연결해 플랫폼 전체를 수정하지 않고 새 기술을 반영하고 모듈 단위로 독립 배포 교체할 수 있게 한다”며 “이를 뒷받침하는 공통 체계에서 트러스트와 가드레일은 보안, 개인 정보, 정책 등을 통제해 고객 서비스 수준의 신뢰성을 확보하며, 오퍼레이션은 평가, 모니터링, 품질 관리로 대고객 서비스를 안전하게 운영하도록 한다”고 덧붙였다.
이미 개발된 에이전트의 공통 요소와 개발 표준을 재사용해 더 빠르게 에이전트를 만들 수 있는 양산 체계가 만들어지고 있다. 공통 에이전트 라이브러리와 마이크로서비스 구조를 기반으로 필요한 기능을 독립적으로 연결하고 교체할 수 있는 체계다. 멀티 모델 지원과 A2A, 전문 에이전트와 도구의 유연한 연결, 컨텍스트 메모리, 금융 특화 가드레일과 이밸류에이션, 옵저버빌리티, 핀옵스 등이 도입됐다. 모든 서비스는 마이크로소프트 애저 쿠버네티스 서비스(AKS) 기반의 에이전트 런타임에서 실행된다. 애저의 여러 서비스를 통해 데이터 계층과 고객 업무 데이터를 연결하는 체계도 갖췄다.
그는 “애저 AI 서비스와 KB 공통 플랫폼을 조합해서 구성해 가는 것”이라며 “A2A를 위해 조직 내 어떤 에이전트가 있는지 찾고 활용하는 접점으로 에이전트 관리 시스템도 갖췄다”고 설명했다.
그는 “AI 에이전트 관리 시스템은 에이전트 사전 검토부터 기획, 개발, 운영, 모니터링까지 이어진다”며 “에이전트의 전체 라이프 사이클을 관리하면서 그룹 안에서 활용하고 연결할 수 있는 기반을 마련했다”고 강조했다.
플랫폼의 구조를 느슨하게 연결된 형태로 전환하면서도 금융의 보안과 통제 기준은 일관돼야 한다. KB국민은행은 공통 보안 체계를 통해 AI를 금융에 확산하면서 규제 준수와 보안성을 충족하고 있다. 보안과 통제를 비즈니스 로직에서 분리시켜 플랫폼의 단일 보안 체계로 모았다. 이를 통해 개별 에이전트의 규제 요건 충족을 관리하고, 코드 개발 영역에서 코딩 에이전트의 도입도 규제 장벽을 통과할 수 있었다.
KB국민은행은 AI 플랫폼의 안정성과 보안성을 대폭 강화한 ‘시큐리티 바이브코딩 플랫폼’을 구축하고 금융 특화 AI 통제 체계를 마련했다. 금융 업무망 환경에서 개발자가 클로드 코드 등 다양한 AI 코딩 도구를 안심하고 활용할 수 있도록 지원한다. 개발자의 요청은 플랫폼과 APIM이란 공통 관문, 프라이빗 링크를 거쳐 안전하게 외부 모델로 연결된다. 플랫폼은 모든 AI 호출에 동일한 규제와 보안 기준을 적용한다. 사용자 인증, 권한 확인, 개인정보(PII) 마스킹, 멀티 모델 가드레일 적용 및 실시간 차단 로그 관리가 일괄 수행된다.
플랫폼 2.0 환경엔 KB국민은행과 티냅스가 공동 설계한 ‘금융 특화 가드레일’을 공통 트러스트 레이어로 내재화한다. 이를 통해 입력 단계의 개인정보 탐지 및 차단, 프롬프트 인젝션·탈옥 공격 방어, 감사 로그 저장 및 실시간 위반 모니터링을 전면 수행한다. AI의 답변 정확성과 금융 신뢰도를 확보하기 위해 AI가 생성한 답변을 다시 평가하는 ‘LLM as a Judge’ 시스템도 구현했다. 정확성, 근거성, 규정 준수, 환각 탐지 등 4가지 기준으로, 평가 결과에 따라 승인(Pass), 재검토(Review), 차단(Block)으로 자동 연동된다.
김 부장은 “기업여신 60개 시나리오 대상 평가 실증에서 KB-티냅스 금융 특화 평가 모델은 100점 만점에 90점을 기록하며 범용 프론티어 모델 평균 대비 28.2점 높은 우수한 성능을 나타냈다”며 “경량화된 구조를 바탕으로 실시간 추론 속도 역시 2~3배 향상시켰다”고 말했다.
KB국민은행은 AI 에이전트를 대고객 서비스로 확장하고 있다. 그는 “KB스타뱅킹에서 KB AI를 출시해 대고객 에이전트를 도입했고, 고객이 직접 메뉴를 탐색하는 대신 고객의 의도를 이해하는 인텐트 주도 뱅킹으로 나아가고 있다”며 “고객의 질문과 의도를 이해하고 필요한 전문 에이전트와 금융 서비스를 연결해 고객의 목적을 해결하도록 돕고 있다”고 밝혔다.
그는 “고객에게 익숙한 업무부터 의도를 이해하는 금융으로 변화를 시작했고, 앞으로 자산 관리 고도화와 맞춤형 투자 제안, 생활 금융, 글로벌 금융 서비스 등 좀 더 다양한 금융 목적을 해결할 수 있도록 넓혀가려 한다”며 “이 다음 단계를 준비하기 위해서 마이크로소프트와 협업도 이어가고 있다”고 강조했다.
KB국민은행과 마이크로소프트의 협업은 금융 업무와 고객 및 규제에 대한 이해를 KB국민은행에서 가져오고, 애저와 AI 플랫폼의 기술적 역량을 마이크로소프트에서 연결하는 형태다. 초기 설계부터 기술 선택과 운영 조건을 함께 검토하고 있다.
그는 “협업을 실제 과제로 구체화하기 위해 문제 탐색부터 기술 검증까지 진행하는 신규 프로젝트로 애저 이노베이션 허브를 3개월 간 진행한다”며 “비즈니스 인비저닝에서 무엇을 할지 정하고, 유즈 케이스를 발굴하며 우선순위를 정한 뒤 솔루션 인비저닝에서 마이크로소프트와 함께 어떻게 만들지를 구체화하며, 아키텍처 디자인으로 요구 사항과 초기 범위를 정리하고 래피드 프로토타입으로 핵심 기능과 기능 적용 가능성을 빠르게 검증하게 될 것”이라고 밝혔다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
함께 보면 좋은 자료
