구글 “사람 개입 없이 취약점 찾아 공격하는 AI 도구 확인”
◈ [웨비나] AI 투자의 ROI, 모아야 보입니다: 흩어진 AI를 자산으로 바꾸는 측정 가능한 에이전트 전략
일시 : 2026년 12월 2일 (수) 14:00 ~ 15:30
장소 : 온라인(bylineplus.com)
구글 위협 인텔리전스 그룹(GTIG)은 사람이 중간 단계에 개입하지 않고 취약점을 찾아 공격 코드를 작성·실행하도록 구성된 도구를 확인했다고 16일(현지시간) 밝혔다. GTIG와 맨디언트는 최신 인공지능(AI) 위협 추적 보고서에서 공격자의 AI 활용 사례를 공개했다.
GTIG가 발견한 ‘exploit_agent’는 인터넷에 노출된 준비 서버에 있던 다중 에이전트 도구다. 여러 대규모언어모델(LLM)과 연동해 웹 애플리케이션 소프트웨어의 보안 패치 전후 코드를 계속 비교하도록 설정돼 있었다. 바뀐 코드에서 취약점 후보를 찾아 공격 코드를 작성한 뒤 자동으로 실행하는 구조다. 패치가 공개됐지만 아직 적용하지 않은 시스템을 겨냥하는 공격에 활용될 수 있다.
GTIG는 이 서버에서 침해 대상의 유출 데이터와 공격 후 활동을 지원하는 스크립트도 확인했다. 스크립트에는 내부 시스템 탐색, 비밀번호 무차별 대입, 웹셸 설치, 다른 공격자가 심은 웹셸 제거 기능이 포함됐다. 웹셸은 공격자가 침해한 웹서버에 명령을 내릴 때 사용하는 악성 프로그램이다. 보고서는 도구를 발견한 경위와 기능을 설명했지만, 이 사례로 발생한 피해 기업이나 피해 규모는 공개하지 않았다.
실제 침해 현장에서 공개 AI 도구를 사용한 사례도 나왔다. GTIG와 맨디언트는 공격자가 미국 항공우주 분야를 겨냥한 침투에 다중 에이전트 도구 ‘케언(CAIRN)’을 활용했다고 밝혔다. 공격자가 침해한 기업의 클라우드 자격 증명과 자원으로 LLM을 무단 사용하거나 모델 접근 권한을 되파는 ‘LLM재킹’ 사례도 분석했다.
국가 연계 공격자의 사용 사례도 포함됐다. 보고서에 따르면 중국 연계 공격자는 LLM으로 탈취 데이터를 분석·번역해 첩보 보고서를 만들었다. 북한 연계 공격자는 AI로 생성한 가상 인물을 암호화폐 기업을 겨냥한 활동에 활용했다. GTIG는 관련 제미나이 계정을 비활성화하고 서비스 악용 방지 조치를 강화했다고 밝혔다.
글. 바이라인네트워크
<곽중희 기자>god8889@byline.network
◈ [레노버 스페셜리포트] 합리적인 선택, 신뢰할 수 있는 스토리지
급증하는 기업 데이터, 성능과 보안은 강화하고 운영 비용은 줄일 수 있을까요?
ThinkSystem 스토리지 시리즈 비교, 랜섬웨어 보호·복구 기능을 eBook으로 확인하세요.


