구글 클라우드 “내년 해킹, AI 의사결정 조작 노린다”

구글 클라우드(한국 대표 루스 선)는 인공지능(AI)의 의사결정 조작과 통제되지 않는 AI 에이전트 확산을 주요 위협으로 꼽은 ‘2027년 사이버보안 전망’을 12일 국내에 소개했다.

구글 클라우드는 공격자가 데이터를 훔치는 데 그치지 않고 AI의 판단을 바꾸려 할 위험이 커질 것으로 전망했다. 입력 데이터를 오염시키거나 판단 로직을 침해해 자율형 에이전트가 기업에 손해를 주는 결정을 내리도록 유도하는 방식이다. 계약 협상과 자본 배분을 맡는 AI의 판단도 공격 대상이 된다는 설명이다.

코딩 에이전트가 사용하는 소프트웨어 공급망도 공격 대상으로 지목했다. 에이전트가 코드에 자동으로 통합하는 오픈소스와 외부 라이브러리, 모델 컨텍스트 프로토콜(MCP) 도구 등을 오염시키는 수법이다. MCP는 AI가 외부 도구나 데이터와 연결하는 데 쓰는 통신 규약이다.

공격 속도가 빨라지면서 정기 점검과 패치 주기도 바뀌어야 한다고 봤다. 주간 취약점 점검이나 한 달 단위의 패치로는 수초 만에 진행되는 다단계 공격에 대응하기 어렵다는 것이다. 소프트웨어 실행 환경에 자동화된 방어 기능을 넣고 개별 거래와 작업 단위로 권한을 검증해야 한다고 제안했다.

기업 내부의 무분별한 에이전트 도입도 보안 사각지대로 꼽았다. 중앙의 관리 없이 부서마다 에이전트를 만들면 기업이 파악하거나 통제하지 못하는 ‘섀도우 IT’ 문제가 에이전트로 확대될 수 있다고 경고했다.

이에 대응하려면 에이전트의 입력값과 판단 과정, 호출한 도구, 정책상 허용 근거 등을 추적해야 한다고 강조했다. 에이전트마다 검증 가능한 인증정보와 최소한의 권한을 부여하고 중요한 의사결정을 사후에 재구성할 수 있어야 한다는 설명이다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network