신한AI, 주식시장 답해주는 GPT 서비스 선보인다

신한금융그룹의 인공지능(AI) 자회사 신한AI가 주식시장과 관련해 답변을 제공하는 GPT 서비스를 선보인다. 예컨대, “과거에 반도체 감산 시 삼성전자 주가는 어땠어?”라고 물으면 관련 데이터와 자료를 기반으로 답변을 해주는 방식이다. 답변은 텍스트뿐만 아니라 표, 차트를 활용해 보여준다. 

3일 신한AI에 따르면, 회사는 주식시장 관련 AI 챗봇 서비스 ‘모물’을 연내 출시하는 것을 목표로 준비 중이다. 신한AI는 작년 9월부터 기획을 시작해 서비스 출시를 위한 막바지 작업에 한창이다. 

모몰은 신한AI가 집중하고 있는 주요 프로젝트 중 하나다. 전체 인력 50여명 가운데 약 절반 정도가 모몰에 투입된 상태다. 

신한AI의 모물은 ‘모르면 물어보세요’의 약자다. 이름처럼 사용자가 텍스트로 질문을 입력하면 금융 특화 데이터로 파인튜닝한 모델을 기반으로 고객의 질문 의도를 분류하고 필요한 데이터를 분석한다. 파인튜닝에는 금융소비자 질의 데이터 1만개 이상, 금융특화 사전, 금융 동의어 학습, 뉴스 라벨링 등을 적용했다. 최종적으로는 신한AI가 자체적으로 개발한 금융특화 스몰 거대언어모델(LLM)이나 탬플릿(각종 표나 차트 등), 챗GPT와의 연계를 통해 답변을 생성하는 구조다. 

모물은 신한투자증권의 모바일트레이딩서비스(MTS)에 탑재될 계획이다. 향후 사용자 반응 등의 추이를 지켜본 뒤 신한은행의 뱅킹 앱 쏠에도 탑재하는 것을 고려하고 있다. 

박대우 신한AI 솔루션 챕터장은 “생성형AI 기술과 금융 데이터 분석의 결합이 이 서비스의 핵심”이라며 “금융 소비자의 정보 비대칭성을 해소하기 위해 국내 주식, 경제 이슈와 관련된 고객들의 다양한 궁금증을 (해결해줄 수 있다)”고 설명했다. 

예를 들어, 코로나19가 확산됐을 때 코스피 지수는 어떻게 될지, 전쟁이 발발하면 나스닥 지수는 어떻게 변하는지 등 과거와 현재 금융 데이터를 기반으로 답변을 제공한다. 

신한AI는 서비스를 개발하면서 생성형AI의 주요 이슈인 신뢰성, 신속성, 효율성, 편의성에 초점을 맞췄다. 현재 생성형AI의 가장 큰 문제로 지목되는 것은 잘못된 정보나 허위정보를 생성하는 할루시네이션이다. 

이에 신한AI는 정보의 신뢰성을 확보하기 위해 두 가지 관점에서 접근했다. 증권사 리포트, 기업공시 같이 금융 도메인에 특화된 문서를 활용해 데이터 신뢰성을 높였다. 

또 모든 답변을 생성형AI에 의존하지 않는다. 질문에 적합한 문서를 찾고, 해당 문서에서 핵심 내용을 추출하는 방식인 기계독해(MRC)를 통해 답변의 근거를 찾는다. 사용자는 검색 시간을 줄이고 신뢰성이 높은 정보를 빠르게 얻을 수 있는 이점이 있다. 

아울러, 챗GPT는 2021년 9월까지의 정보를 토대로 하는 만큼 정보의 최신성 문제가 있다. 신한AI는 뉴스나 리포트 등에서 실시간으로 데이터 수집, 분석을 하는 답변 프로세스를 구축했다. 

신한AI는 효율적으로 LLM을 사용하기 위해 오픈소스를 활용해서 적용했다. 크게 학습단계에서의 최적화, 추론 단계에서의 최적화로 나뉜다. 

먼저 학습단계에서의 최적화는 딥러닝 양자화 기법을 적용, 학습에 필요한 파라미터를 줄이는 동시에 도메인과 테스크의 성능을 확보할 수 있는 방법으로 모델 학습을 진행했다. 추론단계에서의 최적화는 기존의 서빙 프레임워크에 대비해 과거의 답변을 저장해 이를 기반으로 빠르게 서빙할 수 있도록 환경을 구축했다. 

박대우 챕터장은 “기존에 파인튜닝이라고 하면 LLM의 모든 레이어를 재학습 해야 하는데, 이 경우 비용도 많이 들뿐더러 학습시간이 오래 걸린다”며 “이에 어댑터라고 하는 작은 신경망 구조를 별도로 달아서 태스크에 맞게 학습시키고 성능을 유지하고 있다”고 설명했다.  

한편, 최근 챗GPT 부상으로 금융사들의 AI에 대한 관심이 높아지는 가운데 신한AI는 AI를 도입에서 그치는 것이 아니라 고도화를 위한 노력을 해야 한다고 강조했다. 

박대우 챕터장은 “성공적인 AI의 혁신을 위해서는 AI에만 의존하는 것이 아니라 해당 영역의 현업 전문가와 끊임없이 협업하고 소통해서 상호 시너지를 창출하는 것이 핵심 요소”라며 “현업 전문가와 AI 전문가의 상호 피드백이 원활할수록 모델은 더욱 더 정교해질 것”이라고 밝혔다. 

글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network