솔트룩스가 말하는 금융권 생성형AI 활용법

생성형 인공지능(AI)이 화두다. 사용자의 특정한 요구에 따라 결과를 생성하는 AI를 말한다. 결과물은 텍스트부터 이미지, 동영상 등 다양하다. IT업계는 생성AI가 금융권에 가장 적합할 것이라고 보고 있다. 금융권은 AI 챗봇을 가장 활발하게 사용하고 있는 분야이기 때문이다. 다만, 정보보호나 보안 등의 이슈로 인해 아직까지 금융거래에 최적화되어 있진 않다. 

정용일 솔트룩스 이사는 30일 여의도 글래드 호텔에서 회사가 주최한 ‘금융산업에 챗GPT가 당긴 방아쇠’ 행사에서 금융권에서 생성형AI를 활용할 수 있는 방안과 주의점을 제시했다. 

금융권에서 생성AI는 다양한 부문에서 활용될 수 있다. 상품추천이나 비교 서비스, 상품 질의응답, 업무 매뉴얼 검색, 내부학습이나 교육 등이 있다. 이런 점에서 금융권의 AI 도입은 활발하다. 가장 많이 쓰이는 곳은 AI 기반의 챗봇이다. 그러나 AI 챗봇은 아직까지 만능이 아니다.  

정 이사는 금융권을 대상으로 AI 서비스가 가진 문제를 인터뷰한 결과, 여러 서비스 중에서도 챗봇 서비스가 가장 부진하다고 지적했다. 금융권에서 제공하는 AI 챗봇이 사용자가 의도한 질문에 답을 잘하지 못한다는 이야기다. 뿐만 아니라, AI의 성능이 좋아지기 위해선 방대한 데이터를 활용해야 하는데, 금융권이 보유한 데이터의 접근과 활용이 부족하다는 것이 그의 주장이다.

정 이사는 “챗봇이나 검색 서비스가 오히려 고객들의 불편사항이나 직원들의 불편사항으로 바뀌었다”며 “이 점을 어떻게 해소할 것인지 고민을 해야 하며, 생성형AI같은 대화 서비스가 그 대안이 될 것”이라고 화두를 제시했다. 

그러나 현존하는 생성형 AI는 금융거래에 최적화되어 있지 않다. 금융사가 생성형 AI를 활용하려면 방대한 데이터를 처리해야 하는데 이를 위해 인프라, 비용, 시간이 투입되어야 한다. 또 고객의 개인정보보호와 보안이 중심인 금융 관련 법을 고려해야 한다.

정 이사는 “이같은 문제와 혼란을 해소하기 위해 도메인에 특화된 모델을 생성하고 활용하는데 집중을 해야 한다”고 말했다. 또 그는 “데이터를 추가적으로 전문 학습하면 충분히 금융 법인에서도 대화형 서비스를 할 수 있지 않을까 생각한다”고 전했다. 

이런 점에서 생성형AI를 고도화하기 위한 핵심은 프롬프트(학습데이터) 작업이다. 특정 분야에 대한 특별한 프롬프트가 필요하고, 프롬프트를 도메인에 맞게 최적화하고 커스텀하는 작업이 중요하다. 

정 이사는 “프롬프트 커스텀 튜닝 작업을 저희가 하는 것이 아니라 전문가들과 작업을 함께 한다”며 “이렇게 되면 고객들이 원하는 질문에 대한 답변을 끌어낼 수 있다”고 설명했다. 

비슷한 사례로 국민비서 구삐가 있다. 행정안전부에서 제공하는 상담서비스 구삐는 사용자의 질문에 답변을 해야 하는 만큼 엔진이 중요한 역할을 한다. 솔트룩스는 구삐의 성능을 높이기 위해 언어모델을 도입했다. 초창기에는 성능이 약 70% 발휘됐다면, 주기적으로 데이터를 학습해 성능을 90%까지 끌어올렸다. 

정 이사는 “생성형AI 또한 주기적으로 (데이터를) 학습하지 않으면 트렌드를 유지하는데 한계가 있어, AI모델을 도입하면 주기적인 관리가 상당히 중요하다”고 강조했다.  

한편, 솔트룩스는 금융권을 위한 챗봇 엔진 ‘톡봇 스튜디오’와 언어모델을 생성하는 ‘레비스트’를 개발했다. 톡봇 스튜디오는 고객 질의응답, 내부상담 업무를 지원한다. 회사는 톡봇의 사용자 질의 분석 능력을 높이기 위해 지난 2019년부터 언어모델을 사용했다. 레비스트는 주기적으로 사용자의 질문이나 답변을 모니터링하고 쌓인 데이터를 지속적으로 학습한다. 

글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network