국정원, 7개국 사이버안보기관과 AI 공급망 위험·완화방안’ 공동 발표

국가정보원(이하 국정원)은 호주 신호정보부(ASD)와 미국 국가안보국(NSA) 등 주요 7개국 사이버안보기관과 ‘인공지능(AI) 공급망 위험·완화방안’을 공동 발표했다고 5일 밝혔다.

국정원은 호주 ASD가 AI 공급망의 복잡성(모델·데이터·인프라 등 공급자가 다수 존재)을 이유로 ‘백도어(숨겨진 뒷문) 은닉’ 등 위험이 커질 수 있다고 보고 권고문 마련을 추진했으며, 글로벌 대응 차원에서 국정원에도 동참을 요청했다고 설명했다.

이번 권고문은 AI를 ‘배포 후 관리 대상’이 아니라 ‘설계 단계부터 보안을 내재화해야 할 시스템’으로 보고, ▲데이터 ▲기계학습(머신러닝) 모델 ▲소프트웨어 ▲인프라·하드웨어 ▲제3자 서비스 등 5개 항목별 위험요소와 완화방안을 정리했다.

권고문은 품질이 낮거나 편향된 데이터가 판단 오류를 유발할 수 있어 신뢰할 수 있는 출처의 데이터를 사용해 위험을 줄여야 한다고 제시했다. 또 기계학습(머신러닝) 모델은 악성코드 은닉이나 백도어 삽입으로 보안사고가 날 수 있어 안전한 파일 형식과 투명한 모델 사용이 필요하다고 밝혔다.

AI 인프라는 악성 펌웨어(하드웨어를 제어하는 가장 기본적인 소프트웨어) 주입 등 새로운 위험을 수반할 수 있어, 기존 정보보안 원칙을 적용해 네트워크 분리와 자체 인증 등으로 관리해야 한다고 덧붙였다.

국정원은 2023년 11월 ‘안전한 인공지능(AI) 개발 가이드라인’을 미국·영국 등과 공동 발표했고, 지난해 12월에는 ‘인공지능(AI) 보안 가이드북’을 배포하는 등 인공지능(AI) 공급망 공격 위협과 대응 필요성을 강조해 왔다고 밝혔다.

국정원 관계자는 “이번 권고문은 AI에 특화된 위험을 공급망 측면에서 체계적으로 정리하고, ‘사후대응’이 아닌 ‘사전예방’ 중심의 보안 관리 방향을 제시했다는 점에서 의미가 크다”며 “향후 주요국들과 파트너십을 바탕으로 국내에서 인공지능(AI)을 안전하게 활용할 수 있도록 적극 지원하겠다”고 말했다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network