금융보안원, 금융권 안전한 AI 활용 위한 보안성 평가 실시

연합학습 활용, 금융사기 거래 탐지하는 금융권 공동의 AI 모델 개발도 추진

금융보안원(원장 박상원)이 금융권에서 인공지능(AI) 기술을 안전하게 활용할 수 있도록 적극 지원에 나선다고 20일 밝혔다.

이를 위해 금융보안원은 AI 기술 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책을 신속하게 평가하고 모의 공격 기반의 AI 모델 보안성 검증을 수행한다. 또 AI 신기술인 연합학습을 활용해 금융사기 거래를 효과적으로 탐지하도록 금융권 공동의 AI 모델 개발도 추진할 예정이다.

금융권의 생성형 AI 활용 증가에 따라 혁신적 변화가 기대되는 반면, 보안 취약점으로 인한 정보 유출과 오남용, AI의 편향된 학습에 따른 결과 등에 대한 우려가 함께 제기되고 있다. 2024년 12월 발간된 미국 금융안정감독위원회(FSOC)는 연례보고서에서 생성형 AI의 금융분야 활용 과정에서 사이버공격 발생 가능성, 데이터 편향으로 인한 의사결정 왜곡 등의 위험성이 있다고 지적했다.

금융보안원은 이러한 우려를 불식하고 혁신적 금융환경을 지원할 수 있도록 AI 보안 분야에 대한 전문적 역량을 쌓아왔다. 이를 활용해 현재 다양한 정책적ㆍ기술적 지원 업무를 수행하고 있다.

올해는 증가하는 금융권 AI 활용에 발맞춰 금융보안원의 전문성을 토대로 관련 업무를 중점 수행할 예정이다.

우선 생성형 AI 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책을 평가해, 망분리 예외가 적용된 구간에서도 안전하게 AI가 활용될 수 있도록 지원한다. 올해 2월 기준 32개 금융회사에서 49개의 생성형 AI 활용을 위한 혁신금융서비스를 접수했다.

아울러 금융회사가 사용하는 AI 모델을 대상으로 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도하는 등의 모의 공격을 수행해 취약점을 찾아내는 AI 모델 보안성을 검증해 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다는 계획이다. 이는 보다 높은 수준의 AI 안전성과 신뢰성을 확보하고자 하는 금융회사가 자율적으로 수행하는 점검으로 현재 8개 금융회사에서 9개 서비스에 대한 점검을 요청했다는 게 금보원의 설명이다.

또한 AI 신기술인 연합학습 기법을 통해 금융사기 거래를 탐지하는 금융권 공동 AI 모델 개발을 추진해, 금융사기 거래 대응을 개별 금융회사 차원에서 금융권 공동 체계로 확장할 방침이다.

이밖에도 금융회사들이 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공, 금융분야 AI 가이드라인 개정 지원 등 다양한 측면에서 금융권 AI 활용을 지원할 예정이라고 밝혔다.

박상원 금융보안원 원장은 “AI 기술의 성공적인 도입과 활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 진정한 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”라며, “금융보안원은 올해 적극적인 투자와 조직 확대 등을 통해 전문인력을 양성하고 기술력을 강화하는 등 금융 분야의 성공적인 AI 혁신을 차질 없이 지원해 나갈 것”이라고 말했다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network