멘로시큐리티 “AI 에이전트의 과도한 권한이 위협”

“인공지능(AI) 에이전트가 위험에 잘 대응하기 위해서는 연결 지점(커넥션)에 대한 통제가 잘 이뤄져야 합니다. 하지만 AI 에이전트는 인증·권한, 악의적인 데이터, 데이터 유출에 노출된 상태입니다.”

권혁인 멘로시큐리티 상무는 지난 18일 <바이라인네트워크>가 서울 잠실 롯데호텔 3층 크리스탈볼룸에서 개최한 ‘사이버보안 기술 전략 컨퍼런스’에서 이같이 말했다.

이날 권 상무는 AI 에이전트의 업무 과정에서 발생하는 세 가지 보안 취약점을 제시하고, 멘로 에이전트 런타임 시큐리티(MARS)를 통한 해결책을 소개했다. AI 에이전트는 업무 과정에서 ▲과도한 접근 권한 이용 ▲악의적인 데이터 판별 불가 ▲내부 데이터 유출 문제를 일으키는 것으로 분석됐다. 취약점의 원인으로는 AI 에이전트의 구조적 한계가 지목됐다.

먼저 AI 에이전트의 과도한 접근 권한 이용은 현재 기술 수준에서는 적절한 접근 범위를 설정하기 어렵기에 생긴 문제다. AI 에이전트가 과도한 권한을 남용하면서 사고 발생 확률을 늘리고 있지만 이를 제한하는 뚜렷한 해결책은 마련되고 있지 않다. 이에 대해 권 상무는 “AI 에이전트 활용이 과도기에 있어 적정한 권한이 설정되지 않고 있다”고 밝혔다.

웹 브라우저 보안 플랫폼 ‘MARS’는 이를 대응하기 위해 AI 에이전트를 대상으로 세가지 인증 프로토콜 절차를 거친다. AI 에이전트가 클라이언트 IP(서버에 접속한 이용자 컴퓨터의 고유 주소)와 시크릿 키로 접근 요청을 보내면 MARS는 일정 기간 동안 사용할 수 있는 토큰을 할당한다. AI 에이전트가 토큰으로 접속 요청을 보내면 MARS는 특정 시간 내에만 접근할 수 있는 서명된 URL(웹주소)을 전송한다. 이때 AI 에이전트는 서명된 URL로 접속해 핵심 시스템으로 접근할 수 있는 권한을 받을 수 있다.

인증 절차에 대해 권 상무는 “에이전트별로 고유한 신원을 할당했다”며 “짧은 수명의 자격 증명으로 노출되는 공격 지점을 좁혔다”고 설명했다.

AI 에이전트의 데이터 판단 능력 역시 악의적인 외부 공격에 의해 왜곡될 수 있는 것으로 드러났다. AI 에이전트에게는 악의적인 프롬프트를 구분할 수 있는 판단력이 없다. 이에 따라 공격자는 간접적인 ‘프롬프트 인젝션’(AI가 원칙을 무시하고 위험한 행동을 하도록 유도하는 사이버 공격 기법)을 시도한다. 이런 종류의 공격은 사람의 눈으로는 읽을 수 없지만 AI 에이전트는 읽을 수 있는 악의적인 명령을 파일에 이미지나 텍스트를 숨겨 놓는 방식을 취한다.

MARS는 해당 문제를 해결하기 위해 AI 에이전트가 수신하는 모든 파일을 안전한 템플릿 기반으로 재구성해 내용과 관련 없는 요소를 모두 제거한다. 또한 Base64, 유니코드 난독화, 큐알(QR) 코드 및 내장 파일에 디코딩(인코딩 된 데이터를 원래의 형태나 사람이 읽을 수 있는 형태로 되돌리는 과정)을 거쳐 숨겨진 주입 메시지를 표기한다. 결과적으로 AI 에이전트가 수신받는 모든 파일은 안전한 템플릿 기반으로 실시간 재구성된다.

권 상무는 “MARS에는 CDR(콘텐츠 무해화와 재조합) 기능이 기본적으로 탑재돼 있다”며 “흰색 배경에 흰색 텍스트처럼 사람은 읽을 수 없지만 AI 에이전트는 읽을 수 있게끔 숨겨진 프롬프트 인젝션을 CDR 기능으로 예방하고 있다”고 말했다.

머신 스피드(기계의 속도)로 발생하는 ‘내부 데이터 유출’ 문제를 방지하기 위한 실시간 마스킹 기능도 있다. MARS에는 기본적인 DLP(정보유출방지)를 바탕으로 민감 정보를 판별해 마스킹하는 기능이 탑재됐다. 일반적인 CDR과 달리 MARS는 업로드하거나 다운로드 되는 파일을 재구성한다. 일반적인 CDR은 원본 파일에서 악성 콘텐츠를 탐색해 삭제하고 전송하는 절차를 거치지만, MARS는 원본 템플릿에서 필수적인 내용과 무해한 내용을 빠르게 탐색해 재구성 템플릿으로 옮기는 방식이기 때문에 빠른 워크플로우를 지향한다.

이에 대해 권 상무는 “MARS는 AI 에이전트가 업로드하거나 다운로드하는 파일에 대해서 무해화·마스킹·삭제를 하는 것이 기본 컨셉”이라며 “멘로시큐리티의 강점은 웹 격리 기술”이라고 강조했다. 그는 “콘텐츠를 다운로드 받을 때마다 MARS는 클라우드에서 정제한 결과물을 내보내기 때문에 이용자는 안전한 파일을 받을 수 있다”며 “이런 정제 과정을 통해 이용자 뿐 아니라 (공격을 받을 수 있는) AI 에이전트도 보호될 수 있다”고 설명했다.

글. 바이라인네트워크
<오민선 기자>omsoms94@byline.network