네이버가 제시하는 금융권의 생성AI 활용법

IT산업의 역사를 돌아보면 금융산업 그 성장을 견인했다고 해도 과언이 아니다. 은행을 필두로 한 금융업체들이 IT를 가장 적극적으로 받아들이고, 디지털 전환에 가장 앞장서왔기 때문이다.

지난 1년 사이 IT 업계에서 가장 중요한 기술로 떠오른 생성AI도 마찬가지다. 많은 금융업체들이 생성AI 기술을 빠르게 활용할 방안을 찾고 있다. 금융산업은 고객과의 접점도 많고, 복잡한 내부 문서도 많기 때문에 거대언어모델(LLM)을 활용한 생성AI가 고객경험 향상과 조직의 생산성 향상에 도움이 될 것으로 기대하고 있다.

지난 25일 서울 광화문 포시즌스 호텔에서 개최된 ‘네이버 클라우드 파이낸스 데이 2023’은 생성 AI에 대한 금융권의 관심이 얼마나 뜨거운지 느낄 수 있는 자리였다. 국내에서 내로라하는 금융사의 디지털 담당자들이 네이버 클라우드의 생성AI에 대한 정보를 얻기 위해 자리를 잡고 발표를 경청했다.

이날 행사는 네이버 클라우드의 생성 AI 기술을 금융권에서 어떻게 활용할 수 있는지 소개하는 자리였다. 네이버는 최근 ▲하이퍼클로바X(대화형 AI) ▲하이퍼클로바X를 위한 뉴로클라우드(고객사 내부 데이터센터에서 네이버의 LLM을 운영할 수 있는 서비스) ▲클로바 스튜디오(AI 개발도구) 등을 출시한 바 있다.

행사의 문을 연 곽용재 네이버클라우드 최고기술책임자(CTO)는 AI 기술이 단순히 개별 기업의 문제가 아니라 국가적 경쟁력이 달린 문제라며, AI 기술의 중요성을 역설했다.

그는 “초거대 AI 플랫폼을 외국 클라우드에 의존할 문화적으로 편향된 콘텐츠에 노출돼 한 국가의 정체성이 약화될 것”이라며 “앞으로 핵 보유국과 핵 미보유국처럼 생성형 AI 기술을 가진 국가와 그렇지 못한 국가의 차이는 커질 것”이라며 말했다.

그는 “마찬가지로 생성형 AI 기술을 활용해 빠르게 고객의 니즈를 파악하고 효율을 만들어내는 금융사와 그러지 못한 곳의 차이도 커질 것”이라며 “네이버는 꾸준한 투자와 연구를 거듭한 끝에 강력한 자체 백본 모델, 양질의 데이터, 기업향 커스텀 도구, 안전한 슈퍼 컴퓨팅 인프라 등 생성형 AI를 위한 모든 요소를 갖추게 되었다”고 강조했다.

이어 하정우 네이버클라우드 AI 이노베이션 센터장은 “저희 같은 AI 기업과 각 산업별 도메인 전문가의 협업을 통해서 혁신이 만들어진다”면서 “금융산업의 경우도 금융 데이터 이외에 비금융 데이터를 보조적인 수단으로 이용하면서 이상거래탐지를 비롯한 다양한 활용사례가 만들어지고 있다”고 말했다.

하 소장에 따르면, 현재 각 금융사는 세 가지 방향으로 LLM에 접근하고 있다. 첫번째는 빅테크 기업처럼 LLM을 직접 만드는 회사가 있다. 블룸버그가 대표적이다. 블루버그는 ‘블룸버그GPT’라는 금융 특화 LLM을 만들었다. 블룸버그GPT는 40년 동안 쌓은 금융 문서를 기반으로 7000억 개의 토큰, 500억 개의 매개변수가 있는 LLM이다. 블룸버그에 따르면, 재무 관련 작업에서 챗GPT와 같은 서비스보다 성능이 뛰어나다.

그러나 아무리 금융권이라도 AI에 이런 대규모 투자를 쉽게 할 수는 없다. 수천억원 이상 들어갈 투자이기 때문이다.

그래서 sLLM(small LLM)이라는 모델을 활용하는 사례가 많다. sLLM은 기존 LLM보다 규모가 작으면서 특정 영역의 임무만 수행할 수 있는 모델이다. 하지만 sLLM에 대해 하 센터장은 “작은 모델로 해결할 수 있는 문제들도 많이 있지만, 그런 문제들은 보통 임팩트가 작은 것들”이라며 “해결하려는 혁신의 크기가 클수록 큰 모델을 활용하는 게 필요하다”고 강조했다.

당연하겠지만, 하 소장은 네이버클라우드와 같은 국내 파트너와 함께 AI 파워와 혁신 역량을 키워가는 게 가장 효율적이라고 주장했다. 네이버의 LLM을 사용하되, 특화된 데이터와 파인튜닝으로 차별화된 생성AI 서비스를 만들 수 있다는 것이다.

이어 무대에 오른 윤영진 네이버클라우드 AI 사업 리더는 금융권이 생성AI를 받아들이려 할 때  ▲보안과 컴플라이언스 ▲결과물에 대한 신뢰도 ▲비용을 고민하고 있다고 정의했다. 이 고민을 네이버클라우드가 해결할 수 있다는 것이 그의 설명이다.

예를 들어 보안과 컴플라이언스 문제는 ‘하이퍼클라우드를 위한 뉴로 클라우드’로 해결할 수 있다고 설명했다. 뉴로 클라우드는 기업의 데이터센터 내에 폐쇄된 사내망으로 네트워크 환경이 구성되기 때문에 외부의 침입으로부터 안전하다. 안전하게 각 기업에 특화된 네이버 하이퍼클라우드X를 사용하라는 제언이다. 자체적인 보안 정책도 수립할 수 있고, 폐쇄된 네트워크 안에서 필요한 데이터로 언어모델을 학습할 수 있다. 그에 따르면, 이렇게 할 경우 생성AI 거짓말(할루시네이션)도 줄어든다. 뉴로 클라우드는 사내 폐쇄망에 있지만 퍼블릭 클라우드에 있는 것과 똑같은 업데이트와 패치를 제공한다고 윤 리더는 강조했다. 금융사의 비용 문제를 해결하기 위해 네이버클라우드는 고정 요금제 등 새로운 가격 정책을 발표하기도 했다.

이날 행사에서는 네이버뿐 아니라 ‘하이퍼클로바X’를 활용하고 있는 금융권 사례들도 소개됐다. 오순영 KB국민은행 AI 센터장은 은행 내 직원들의 업무 생산성을 높이는 방안으로 초대규모 AI를 활용한 사내 생성형 AI 기술의 여정을 소개했으며, 안인성 미래에셋증권 디지털부문 대표는 ‘하이퍼클로바X’를 도입해 AI가 실적발표를 요약해 주거나 해외 시장 뉴스를 번역해 고객에게 신속한 종목정보를 전달할 수 있었던 사례를 공유했다. 황보현우 하나금융지주 데이터본부장은 직원이 고객 상담을 위해 활용하는 챗봇에 ‘하이퍼클로바 X’을 적용하는 프로젝트를 진행 중에 있으며, 향후 내부 업무 효율성 향상과 고객 만족도 제고를 위한 다양한 서비스에 생성형 AI를 적용할 예정이라고 발표했다. 금융보안원 박진석 디지털전략본부장은 금융권에서 AI를 적용할 경우 참고해야 하는 위험 요인들을 소개하며, 보안 사고를 줄이기 위해 준수해야 하는 AI 관련 컴플라이언스를 소개해 안전한 금융 혁신 방안을 공유했다.

곽용재 CTO는 “생성형 AI는 챗봇, 마케팅, 이미지 제작, 상담 등 잘 활용하면 정말 무한한 것을 할 수 있기 때문에 PC와 모바일에 이은 새로운 플랫폼이 되고 있다”면서 “원천 기술을 바탕으로 모든 인프라를 갖춘 네이버 클라우드가 국내 금융사의 생산성 향상을 이루도록 해드리겠다”고 강조했다.

김유원 네이버클라우드 대표는 “금융 업무 생산성과 고객 서비스 만족도를 높일 수 있는 가장 빠르고 안전한 방안으로서 하이퍼클로바 X를 소개해드릴 수 있게 되어 기쁘다”며, “최근 금융권에서도 생성형 AI에 대한 관심이 매우 뜨거운 만큼, 업무 방식 변화의 혁신을 이룰 수 있는 금융 특화 AI 솔루션을 앞으로도 적극적으로 선보이겠다”고 밝혔다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network

AI 트랜스포메이션을 위한 리테일 테크는 무엇일까

– 리테일 & 로지스 테크 컨퍼런스 2024

리테일 산업은 이제 디지털 산업입니다. 온라인뿐 아니라 오프라인 기업도 디지털 기술을 활용하지 않고서는 생존할 수 없습니다. AI 기술의 발달은 리테일 업계에 새로운 기회와 도전과제를 안겨주었습니다.

생성형 AI, 이커머스 쏠림, D2C 확장, 오프라인 매장의 폐점, 경기 침체, 늘어만 가는 배송 수요 등의 많은 변화 속에서 리테일과 물류, 커머스 업계는 디지털 없이는 변화에 대처할 수 없음을 알고 있습니다.

이에 바이라인네트워크는 리테일&로지스 테크 컨퍼런스 2024를 개최합니다. 리테일과 물류 기업이 어떻게 AI와 디지털 기술을 활용하고 있는지, 디지털 혁신을 위해 필요한 기술과 활용사례는 무엇인지 살펴보는 자리가 될 것입니다.

  • 일시: 2024년 3월 7일(목) 9:00 ~ 18:00
  • 장소: 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다