아이티센그룹, AI 가드레일 통합 보안 솔루션 ‘에이전트고 가드’ 출시

아이티센그룹은 기업 및 공공기관의 안전한 생성형 인공지능(AI) 도입과 에이전트 생태계 구축을 지원하는 AI 가드레일 통합 보안 솔루션 ‘에이전트고 가드(AgentGo Guard)’를 정식 출시했다고 1일 밝혔다.

앞서 아이티센그룹은 지난 1월 계열사인 아이티센클로잇을 통해 개별 AI 에이전트를 한 곳에서 관리·연결하고 실제 업무를 수행하도록 지원하는 멀티 AI 에이전트 관리 플랫폼 ‘에이전트고 2026’을 선보인 바 있다.

‘에이전트고 가드’는 이와 별도로 도입 가능한 독립형 보안 플랫폼으로, ‘에이전트고 2026’을 비롯해 기업이 이미 구축한 AI 에이전트·RAG 환경에도 손쉽게 연동할 수 있어, 개별 기업의 AI 인프라 구성과 관계없이 보안 계층을 유연하게 얹을 수 있다는 것이 회사 측의 설명이다.

생성형 AI와 AI 에이전트 도입이 빠르게 확산되면서 프롬프트 인젝션, 민감정보 유출, 지능적 탈옥 시도 등 새로운 보안 리스크에 대한 기업의 우려가 커지고 있다. 에이전트고 가드는 이러한 리스크를 사전에 통제하기 위해 개발된 엔터프라이즈 보안 플랫폼으로, AI 시스템과의 상호작용이 안전한 경계 내에서 이루어지도록 통제하는 다층적 방어 체계를 기반으로 한다. 사내 애플리케이션, 검색증강생성(RAG), 에이전트 워크플로우에 애플리케이션프로그래밍인터페이스(API) 형태로 유연하게 연동돼 보안 로직을 정교하게 결합할 수 있다.

아이티센에 따르면, ‘에이전트고 가드’는 다층 방어 및 적대적 공격(Adversarial Attack) 방어 체계 췄다. 금칙어 및 정규식 필터링부터 자연어 기반 문맥 분석, 대형언어모델(LLM) 기반 가드레일까지 다단계 탐지 체계를 구동한다. 대화를 여러 차례 반복하며 점진적으로 방어망을 무력화하는 ‘에코 챔버(Echo Chamber)’ 공격 및 지능적인 우회·탈옥 시도를 세션 단위에서 실시간으로 식별하고 차단한다.

한국어 및 글로벌 표준에 특화된 정보유출방지(DLP) 기능도 탑재했다. 금융결제원 CMS 계좌번호 체계(17종)와 국토교통부 차량번호 정규식을 지원하며, 한국정보통신기술협회(TTA) 대분류(15종), 미 국립표준기술연구소(NIST), 유럽연합(EU) 일반개인정보보호법(GDPR) 기준을 준수하는 자연어 처리 모델을 통해 한국인 이름, 주소, 주민등록번호 등 민감정보를 정교하게 비식별화(마스킹) 처리한다.

라이브 운영 환경에 배포하기 전에는 사전 시뮬레이터를 통해 보안 정책과 공격 시나리오를 가상의 샌드박스에서 미리 검증할 수 있다. 이를 통해 과도한 차단으로 인한 사용자 불편(오탐)과 보안 구멍(미탐) 사이의 최적 정책 수치를 사전에 정밀하게 조율할 수 있다.

감사 추적성과 실시간 알림 체계도 갖췄다. 모든 호출 로그는 암호화(AES-256) 및 크로스사이트스크립팅(XSS) 위협 방지 처리돼 저장되며, 로그 열람 시 관리자의 사유 입력을 강제해 엄격한 감사 추적성을 제공한다. 또한 주기적으로 설정된 탐지 임계치를 기준으로 이상치 발생 시 담당자에게 즉시 메일 알림을 발송한다.

에이전트고 가드는 클라우드와 같은 퍼블릭망은 물론, 폐쇄망 내 도커 및 쿠버네티스 환경에서도 쉽게 배포·구동된다. 아울러 에이전트고 2026과 같은 자사 에이전트 플랫폼은 물론 타사 에이전트 플랫폼과도 매끄럽게 연동되어 이미 AI 에이전트를 운영 중인 기업도 별도의 시스템 개편 없이 보안 계층을 추가할 수 있다.

이에 따라 내부 AI 서비스와 지식베이스(RAG) 기반 업무 에이전트를 구축하는 기관·기업, 컴플라이언스 준수가 필수적인 금융·공공 분야에 최적화된 맞춤형 보안 파이프라인을 제공한다.

정승모 아이티센글로벌 AI이노베이션센터장은 “에이전트고 가드는 AI의 비윤리적·혐오적 표현, 프롬프트 인젝션, 기밀 유출, 환각 현상으로 인한 거짓 정보를 사전에 통제하는 엔터프라이즈 AI의 핵심 방어선”이라며 “기업들이 리스크 없이 안전하게 AI 생산성을 극대화할 수 있도록 적극 지원할 것”이라고 밝혔다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network