구글 클라우드 “기업 AI 계정 탈취하는 LLM 재킹, 하루 10만달러 피해”

기업의 인공지능(AI) 모델 접근 권한을 탈취해 대량의 사용 요금을 발생시키는 사이버공격이 잇따르고 있다. 일부 기업에서는 하루 10만달러 이상의 무단 사용 요금이 발생했고, 누적 청구액이 100만달러에 달한 사례도 확인됐다.

구글 위협 인텔리전스 그룹(GTIG)과 맨디언트는 기업의 AI 모델 이용 권한을 탈취하는 ‘LLM재킹(LLMJacking)’ 공격 사례와 대응 방안을 분석한 보고서를 발표했다고 4일 밝혔다.

LLM재킹은 공격자가 기업의 거대언어모델(LLM) 접근 권한을 탈취해 AI 서비스를 무단으로 이용하거나 다른 사람에게 이용 권한을 판매하는 공격이다. 기업이 사용하는 AI 모델은 사용량에 따라 비용을 청구하는 경우가 많다. 공격자가 탈취한 계정으로 AI 모델을 대량 호출하면 해당 기업에 사용 요금이 발생한다.

기존의 ‘크립토재킹(Cryptojacking)’이 타인의 컴퓨팅 자원을 무단으로 활용해 암호화폐를 채굴하는 방식이라면, LLM재킹은 AI 모델 사용량을 단기간에 늘려 비용을 발생시킨다는 차이가 있다.

맨디언트가 조사한 공격은 북미와 남미, 아시아태평양 지역의 금융·유통·기술·운송 기업 등을 겨냥했다. 공격자들은 계정 인증정보를 탈취하거나 로그인 상태를 가로채는 ‘세션 하이재킹’ 수법으로 기업 시스템에 침입했다. 공개된 깃허브(GitHub) 저장소에 노출된 인증정보를 수집해 접근 권한을 확보하기도 했다.

공격자들은 탈취한 AI 모델 접근 권한을 암시장에서 재판매하는 방식으로 수익을 얻었다. 여러 기업에서 탈취한 응용프로그램 인터페이스(API) 키를 중계 서버에 연결해 구매자가 AI 모델을 이용하도록 하는 방식이다. API 키는 프로그램이 외부 서비스에 접근할 때 사용하는 인증정보다.

실제 공격 사례도 확인됐다. 한 불법 AI 모델 중계 서비스는 월 60달러에 고성능 AI 모델을 무제한 이용할 수 있다고 홍보했다. 구글과 맨디언트의 분석에 따르면 해당 서비스의 무단 이용으로 피해 기업에는 약 100만달러의 AI 모델 사용 비용이 발생했다.

또 다른 공격자는 8시간도 지나지 않아 50만건 이상의 LLM API 호출을 실행했다. 공격자는 사용량 제한을 우회하기 위해 수명이 짧은 서비스 계정을 반복적으로 생성하고 삭제했다. 클라우드 서비스 제공업체의 청구 내역을 수시로 확인하며 사용 비용도 추적했다.

구글과 맨디언트는 기업이 승인하지 않은 AI 모델 사용 현황을 파악하고 API 키의 접근 권한을 세분화해야 한다고 권고했다. 코드나 설정 파일에 노출된 인증정보를 자동으로 탐지하는 체계도 필요하다고 설명했다.

특히 AI 모델의 비정상적인 호출량과 사용 요금 증가를 감시하고, 무단 접근이 확인되면 관련 인증정보를 폐기해야 한다고 강조했다.

존 헐트퀴스트(John Hultquist) GTIG 수석 애널리스트는 “공격자들은 LLM재킹을 적극 활용해 방어자보다 규모 측면에서 우위를 점하려 한다”며 “에이전틱 도구를 활용해 피해자가 인지하지 못하는 사이 토큰을 탈취하는 방식으로 공격 규모를 확대한다”고 말했다.

이어 “기업은 LLM 자원에 대한 접근을 엄격히 통제해야 비용 폭탄을 방지할 수 있다”며 “자원 사용 내역을 철저히 점검하고 다중 인증(MFA)을 활성화하며 계정 정보를 신중하게 관리해야 한다”고 강조했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network