GTIG, AI 에이전트 활용한 제로데이 공격 확인

구글 위협 인텔리전스 그룹(GTIG)은 최신 인공지능(AI) 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 발표했다고 12일 밝혔다.

GTIG는 이번 보고서에서 공격자가 AI의 도움을 받아 제로데이 취약점 공격 코드, 즉 익스플로잇을 개발하고 이를 대규모 공격 캠페인에 활용하려 한 사례를 확인했다고 설명했다. 제로데이는 개발사나 보안업계가 미처 대응하지 못한 취약점을 뜻한다. 익스플로잇은 해당 취약점을 실제 공격에 악용하는 코드나 절차를 말한다.

GTIG는 대규모 취약점 공격을 준비하던 범죄 집단이 AI를 활용해 실제 작동 가능한 제로데이 익스플로잇을 만든 것으로 추정된다고 밝혔다. 다만 해당 공격은 구현 과정에서 발생한 실수로 성공하지 못한 것으로 보인다고 분석했다. GTIG는 해당 취약점을 개발사에 통보해 패치가 완료됐다고 설명했다.

보고서는 해당 공격 코드에 AI 사용을 뒷받침하는 흔적이 있었다고 봤다. 다만 GTIG는 이 코드가 미토스(Mythos)를 통해 개발된 것은 아니라고 판단했다. 미토스는 앤트로픽이 개발한 최신 대규모언어모델(LLM)로, AI 기반 취약점 탐지와 공격 자동화 가능성을 둘러싸고 최근 보안업계에서 논란이 있는 모델이다.

국가 배후 해킹조직의 AI 활용도 보고서의 주요 내용으로 제시됐다. GTIG는 북한과 중국 지원을 받는 위협 행위자들이 취약점 분석과 공격 코드 개발에 AI를 적극 활용하고 있다고 분석했다. 북한 위협 그룹 APT45는 AI를 활용해 수천 개의 공격 코드를 검증하고 공격 자산을 대규모로 구축한 것으로 언급됐다.

에이전틱 AI 도구를 활용한 공격 확대 사례도 포함됐다. 에이전틱 AI는 사람이 매번 지시하지 않아도 목표를 세분화하고 도구를 사용해 작업을 이어가는 AI 방식을 뜻한다. 보고서에 따르면 공격자들은 오픈클로(OpenClaw) 같은 프레임워크를 사용해 테스트 환경에서 공격 과정을 지휘했다. 중국 연계 위협 행위자는 일본 기술 기업의 취약점을 찾기 위해 에이전트 도구를 활용해 자율적인 탐색 공격을 수행한 것으로 나타났다.

러시아 연계 위협 행위자는 심리전과 악성코드 고도화에 AI를 활용한 것으로 분석됐다. 러시아 정보 작전 세력은 AI 딥페이크를 활용해 기만 전술을 펼쳤다. 또 미국, 우크라이나, 프랑스를 겨냥한 정보 작전에서 실제 뉴스 영상에 조작된 오디오와 비디오를 합성한 사례가 언급됐다. 보고서는 이를 오퍼레이션 오버로드(Operation Overload) 사례로 제시했다.

고성능 LLM에 접근하려는 시도도 확인됐다. GTIG는 중국 연계 사이버 스파이 조직인 UNC5673 등 여러 위협 그룹이 전문 미들웨어와 계정 등록 자동화 프로그램을 활용해 최신 AI 모델 서비스에 익명으로 접근하려 했다고 설명했다. 이들은 모델 사용량 제한을 우회하고 대규모 AI 서비스를 공격 활동에 오남용하려 한 것으로 분석됐다.

구글은 대응 방안으로 위협 인텔리전스 공유와 제품 보호 기능 강화를 제시했다. 또 제미나이를 활용해 악성 계정을 차단하고 모델 오남용을 막는다고 설명했다. 소프트웨어 취약점 식별에는 AI 에이전트 빅 슬립(Big Sleep)을 활용하고, 코드멘더(CodeMender) 등 제미나이의 추론 능력으로 취약점 자동 수정도 추진하고 있다고 밝혔다.

존 헐트퀴스트 GTIG 수석 애널리스트는 “AI에 의한 취약점 전쟁은 이미 시작됐다”며 “우리가 AI의 소행으로 밝혀낸 제로데이 이면에는 아직 탐지되지 않은 훨씬 더 많은 사례가 존재하고 있을 것”이라고 말했다. 이어 “위협 행위자들은 AI를 활용해 공격의 속도와 규모, 정교함을 발전시키고 있다”며 “국가 배후 세력은 물론 사이버 범죄 집단의 AI 활용 위협을 과소평가해서는 안 된다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network