체크포인트 “AI, 공격 보조 넘어 직접 침입”

체크포인트 소프트웨어 테크놀로지스(이하 체크포인트)의 위협 인텔리전스 조직인 체크포인트 리서치는 AI가 사이버 공격을 보조하는 단계를 넘어 침입 절차를 직접 수행하기 시작했다는 내용의 ‘AI 시큐리티 리포트 2026’을 30일 발표했다.

보고서는 지난 12개월간 발생한 침해사고와 위협 탐지 데이터, 사례 연구를 분석했다. 연구진은 AI가 사람의 단계별 개입을 줄인 상태에서 수십개 세션에 걸쳐 수천개 명령을 실행한 침해 사례를 확인했다고 밝혔다.

보고서는 멕시코 정부기관 9곳이 피해를 본 침해사고 사례도 인용했다. 공격자 1명은 상용 AI 도구 2개를 동시에 사용했다. 클로드 코드(Claude Code)는 시스템 침투와 네트워크 탐색에 사용됐다. GPT-4.1은 탈취한 데이터를 분석하고 후속 작업을 지시했다. 34개 공격 세션에서 생성된 AI 실행 명령은 5317개였다.

AI가 공개된 취약점을 실제 공격 도구로 바꾸는 시간도 짧아졌다. 보고서는 공격자가 새로운 취약점 정보를 공개 후 몇 시간 안에 작동 가능한 공격 코드로 전환할 수 있다고 분석했다.

AI 시스템 자체를 겨냥한 공격도 증가했다. 체크포인트 리서치가 2026년 3월부터 5월까지 탐지한 대규모 악성 프롬프트 주입 페이로드는 약 5배 늘었다. 프롬프트 주입은 AI가 처리하는 문서나 웹페이지 등에 악성 지시를 숨겨 AI가 의도하지 않은 행동을 하도록 유도하는 공격이다.

기업의 고위험 AI 사용도 증가했다. 보고서가 고위험으로 분류한 프롬프트는 1년 전 AI 상호작용 50건당 약 1건에서 최근 25건당 약 1건으로 늘었다. 기업은 매달 평균 10개의 AI 애플리케이션을 사용하는 것으로 조사됐다. 이 가운데 상당수는 기업의 공식 승인 없이 사용됐다.

보고서는 기업 데이터 노출의 상당 부분이 외부 공격보다 직원의 일상적인 AI 사용 과정에서 발생했다고 분석했다. 직원이 더 구체적인 답변을 얻기 위해 업무 배경과 내부 정보를 프롬프트에 입력하는 과정에서 데이터가 외부 AI 서비스에 전달될 수 있다는 설명이다.

로템 핀켈스타인 체크포인트 리서치 부사장은 “1년 전에는 AI를 공격자의 역량을 강화하는 도구로 평가했지만 올해는 AI가 실제 공격 과정에 직접 참여하고 있다”며 “방어자는 더 이상 공격자의 속도에 맞춰 대응할 수 있다고 가정해서는 안 된다”고 말했다.