GTIG “모델 추출 공격 늘고, 해커 AI 활용 증가“

구글 위협 인텔리전스 그룹(GTIG)은 2025년 4분기 관측을 바탕으로 한 ‘인공지능(AI) 위협 추적 보고서(AI Threat Tracker)’를 발표했다고 13일 밝혔다.

GTIG는 공격자들이 인공지능(AI)을 단순 보조 도구로 쓰는 수준을 넘어, 정찰·사회공학·악성코드 개발 등 공격 전반에 통합하는 흐름이 뚜렷해졌다고 진단했다.

새롭게 부각한 축은 ‘모델 추출(Model extraction)·증류 공격(Distillation attacks)’이다. GTIG와 구글 딥마인드(Google DeepMind)는 2025년 동안 생성형 AI 제품을 대상으로, 모델의 추론 역량과 내부 논리를 복제하려는 시도를 확인했다고 설명했다. 이 공격은 서비스에 대한 침해라기보다, 합법적 접근 이용해 모델을 체계적으로 탐침하고 결과를 학습 데이터로 삼아 유사 모델을 만드는 지식 증류 방식에 가깝다. GTIG는 이런 시도가 평균 이용자에게 직접적인 피해를 주기보다는, 모델 개발사·AI 서비스 제공사의 IP와 경쟁력에 위험을 집중시킨다고 봤다.

국가 배후 해킹그룹의 활용 양상도 구체적으로 제시했다. 이란 정부 지원 해킹 조직으로 지목된 APT42는 제미나이(Gemini)를 활용해 표적 기관의 공식 이메일 주소를 찾고, 접근 명분을 만들기 위한 사전 조사와 맞춤형 사회공학을 강화한 것으로 분석됐다. 북한 정부 지원 해커 그룹 UNC2970은 방위 산업을 겨냥한 공격에서 채용 담당자 사칭 전술을 지속해왔고, 제미나이를 활용해 공개출처정보(OSINT)를 종합하고 고가치 표적을 추리는 등 정찰과 공격 기획을 지원한 정황이 포함됐다. GTIG는 관련 활동에 대해 차단 조치를 취했다고 밝혔다.

악성코드 영역에서도 AI 통합 실험이 계속되는 것으로 나타났다. 보고서는 HONESTCUE로 추적되는 악성코드 샘플이 제미나이 애플리케이션 프로그래밍 인터페이스(API)를 호출해 2단계 악성코드 다운로드·실행에 필요한 코드를 생성하도록 ‘기능을 아웃소싱’하는 방식이 관찰됐다고 설명했다. 제작·변형 속도가 빨라지면서, 기존의 네트워크 기반 탐지나 정적 분석을 흔들 수 있다는 취지다. 이와 함께 COINBAIT로 불리는 피싱 키트처럼, AI 코드 생성 도구를 활용해 제작 속도를 높인 사례도 언급했다.

지하 시장 동향도 담겼다. GTIG는 영어권·러시아어권 다크웹에서 AI 기반 도구·서비스 수요가 꾸준히 나타난다고 분석했다. 다만 공격자들이 독자 모델을 직접 개발하기는 어려워, 상용 AI 모델에 의존하는 경향이 강하다고 봤다. 이 흐름은 API 키 탈취·도용이 늘어나는 배경으로도 연결된다고 했다. 예로 든 ‘잔소록스(Xanthorox)’는 맞춤형 공격용 AI를 표방하지만, 실제로는 여러 상용 API와 오픈소스 구성을 조합해 작동하는 형태로 분석됐다.

GTIG는 “국가 지원 위협 행위자들이 생성형 AI를 기술 연구, 표적 개발, 정교한 피싱 문안 생성에 활용하는 흐름이 이어지고 있다”면서도, 현시점에서 AI가 위협 지형을 근본적으로 바꾸는 ‘돌파구’ 수준의 능력까지 확인된 것은 아니라고 선을 그었다. 다만 모델 탈취 시도, AI 결합형 악성코드 실험, AI 기반 피싱 키트 확산은 ‘방어자 입장에서 먼저 대비해야 할 조짐’으로 제시했다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network