구글 GTIC “멀웨어가 AI 호출하는 ‘저스트 인 타임’ 공격 등장”

AI 도구 활용해 공격 자동화·지하 시장 성숙, 비숙련 공격자도 진입 장벽 낮아져

구글 위협 인텔리전스 그룹(이하 GTIG)은 6일 공개한 ‘AI 위협 보고서’에서 멀웨어가 실행 시점에 인공지능(AI) 모델을 호출해 실시간으로 악성코드를 생성하는 ‘저스트 인 타임(just in time)’ 방식이 새롭게 등장했다고 밝혔다. 또한 프롬프트 기반 사회공학 기법의 확산과 불법 AI 도구 시장의 성숙화로 인해 사이버 공격의 진입 장벽이 급격히 낮아지고 있다고 경고했다.

GTIG는 이번 보고서에서 공격자들이 AI를 단순한 생산성 도구가 아닌 공격 전 단계의 핵심 자원으로 활용하고 있다고 분석했다. 악성코드 제작, 피싱 메시지 작성, 취약점 탐색은 물론 AI 도구 자체를 거래하는 지하 시장까지 형성되며 공격 생태계가 빠르게 고도화되고 있다는 것이다.

보고서에 따르면 ‘프롬프트플럭스(PROMPTFLUX)’와 ‘프롬프트스틸(PROMPTSTEAL)’ 등의 악성코드는 실행 과정에서 대규모언어모델(LLM)을 호출해 동적으로 스크립트를 생성하고, 자체 코드를 난독화해 탐지를 회피한다. 기존처럼 악성 기능을 미리 하드코딩(hard-coding)하지 않고 요청에 따라 코드를 만들어내는 방식이다. GTIG는 “이 같은 형태의 멀웨어는 아직 초기 단계이지만, 자율적이고 유연한 형태로 발전할 가능성이 높다”고 분석했다.

또한 공격자들은 AI의 안전 장치를 우회하기 위해 사회공학 기법을 프롬프트에 결합하고 있는 것으로 나타났다. GTIG는 해킹 대회(CTF) 참가자나 보안 연구원으로 가장해 제미나이(Gemini) 같은 AI 모델이 차단하도록 설계된 정보를 유도하거나, 이를 악용해 새로운 공격용 도구를 개발하는 사례를 다수 포착했다고 설명했다.

불법 AI 도구 시장도 빠르게 성장하고 있다. 보고서는 피싱, 멀웨어 제작, 취약점 분석 등을 자동화하는 불법 AI 도구가 다수 유통되고 있으며, 이로 인해 숙련도가 낮은 공격자도 손쉽게 고도화된 공격을 수행할 수 있게 됐다고 밝혔다. GTIG는 이를 “사이버 범죄의 민주화” 현상으로 표현하며, 공격 자동화와 대중화를 촉진하는 주요 요인으로 지목했다.

아울러 북한·이란·중국 등 국가 지원 공격 조직들도 AI를 정찰, 피싱 미끼 생성, 명령제어(C2·Command and Control) 서버 개발, 데이터 탈취 등 공격의 전 단계에 걸쳐 활용하고 있는 정황이 포착됐다. GTIG는 이들이 합법 AI 플랫폼의 안전 장치를 회피하거나, 제한 없는 오픈소스 AI 모델을 병행해 사용하는 추세라고 설명했다.

빌리 레오나드(Billy Leonard) GTIG 기술 리드는 “공격자들은 안전 장치가 내장된 합법 AI 플랫폼의 한계를 느끼며, 지하 시장에서 비제한형 AI 모델을 구해 공격에 활용하고 있다”며 “이러한 도구들은 기술 수준이 낮은 공격자에게도 상당한 이점을 제공해 진입 장벽을 낮추고 있다”고 말했다. 그는 “구글은 위협 인텔리전스에 기반한 탐지 강화와 정책적 대응을 병행해, 대규모 사용자 보호와 AI 생태계의 안전을 확보해 나갈 것”이라고 덧붙였다.

구글은 이번 보고서와 함께 AI 악용 탐지·차단 체계 강화 방안과 정책적 대응 전략을 공개하고, 위협 인텔리전스를 클라우드 및 플랫폼 보안 체계 전반에 반영할 계획이다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network