금융보안원, 연합학습 기반 보이스피싱 탐지 AI 모델 인터넷은행 3사에 적용

금융보안원은 카카오뱅크, 토스뱅크, 케이뱅크와 개발한 연합학습 기반 ‘보이스피싱 탐지 인공지능(AI) 공동모델’을 7월부터 세 은행의 실제 업무에 적용한다고 24일 밝혔다.

연합학습은 각 기관이 원본 학습데이터를 외부에 제공하지 않고 자체적으로 AI를 학습하는 기술이다. 기관들은 학습을 통해 만들어진 모델의 가중치만 공유하고 병합한다. 고객의 금융정보를 직접 주고받지 않으면서 여러 기관의 데이터를 활용한 것과 비슷한 학습 효과를 낼 수 있다.

이번 공동모델에는 보이스피싱 탐지 AI를 운영해 온 인터넷은행 3사의 경험과 금융보안원이 개발한 연합학습 알고리즘을 반영했다. 각 은행이 자체적으로 학습한 사기 거래의 특징을 공동모델에 결합해 다른 은행의 개별 모델이 놓쳤던 거래도 찾는 구조다.

금융보안원이 공동모델을 검증한 결과 탐지 정밀도는 각 은행의 기존 모델보다 최대 205% 향상됐다. 탐지 정밀도는 AI가 사기 거래로 판단한 거래 가운데 실제 사기 거래가 차지하는 비율이다.

공동모델은 개설한 지 오래된 계좌를 자금세탁에 이용한 사례를 탐지했다. 해당 계좌는 과거 현금자동입출금기(ATM) 거래를 반복해 정상 계좌처럼 보이도록 만들었다. 거래 당일에는 처음 거래하는 피해자로부터 1000만원 이상을 입금받았다.

기존 모델은 계좌 개설 후 지난 기간을 주요 기준으로 판단해 해당 거래를 정상으로 분류했다. 공동모델은 다른 은행이 활용하던 ‘12시간 이내 입금액 합계’를 함께 고려해 단기간에 고액이 들어온 계좌를 사기 계좌로 찾아냈다.

미성년자와 청년층을 노린 소액 피싱 거래도 탐지했다. 범죄자는 모바일 소액결제나 온라인 문화상품권 개인식별번호(PIN) 구매를 이용해 수천원에서 수십만원을 여러 차례 나눠 이동시켰다.

기존 모델은 거래액이 작아 이를 정상 거래로 판단했다. 공동모델은 다른 은행이 실제 피해 거래에서 학습한 패턴을 전달받아 소액으로 분산된 거래를 조기에 탐지했다.

금융보안원은 기관별 모델의 구조를 분석해 유사한 특징만 골라 결합하는 연합학습 기법도 적용했다. 이를 통해 공동모델에 필요한 저장 공간을 줄이고 모델을 합치는 속도를 높였다고 설명했다.

관련 연구는 2025년 11월 정보·지식관리 국제학술대회(CIKM)와 같은 해 12월 신경정보처리시스템학회(NeurIPS)에 발표 논문으로 채택됐다.

공동모델은 7월부터 인터넷은행 3사의 기존 AI 모델과 이상거래탐지시스템(FDS)에 함께 적용된다. 금융보안원은 시중은행과 카드사 등 데이터 구조가 비슷한 금융업권별 공동모델도 개발할 계획이다.

올해 4분기에는 공동모델을 전기통신금융사기 정보공유·분석 AI 플랫폼(ASAP)에 탑재한다. 자체 AI 개발 기반이 부족한 제2금융권 등 중소 금융사는 특정 거래 정보를 질의하고 보이스피싱 가능성을 0점부터 100점까지의 점수로 받을 수 있다.

박상원 금융보안원장은 “지능화·조직화되는 보이스피싱 범죄에 대응하려면 금융권 전체가 협력체계를 마련하는 것이 중요하다”며 “AI를 활용해 보이스피싱 관련 데이터를 분석하고 선제적 탐지에 필요한 정보와 시나리오를 제공하겠다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network