모니터랩, 생성형 AI 보안 솔루션 ‘GenAI Security’ 탐지 항목 확대

모니터랩은 생성형 인공지능(AI) 보안 솔루션 ‘GenAI Security’의 민감 주제 탐지 항목을 기존 9개에서 26개로 확대하고 지원 환경을 넓혔다고 16일 밝혔다.

GenAI Security는 기업 임직원이 생성형 AI를 사용하는 과정에서 발생할 수 있는 프롬프트 인젝션과 AI 오용, 민감정보 유출을 탐지·차단하는 솔루션이다.

모니터랩은 이번 고도화를 통해 사용자가 AI에 입력하는 프롬프트의 맥락을 분석하고 업무에 부적절한 내용인지 판단하는 민감 주제 분류 체계를 세분화했다.

분류 항목은 기존 9개에서 26개로 늘었다. 소스코드 유출과 시스템 정보 유출처럼 비슷해 보이지만 유출 대상과 목적이 다른 행위를 구분한다. 기업은 부서와 업무 성격에 필요한 항목만 적용해 불필요한 차단을 줄일 수 있다.

지원 환경도 확대했다. 웹 브라우저와 PC 설치형 네이티브 앱뿐 아니라 개발자가 명령줄 인터페이스(CLI)에서 AI를 직접 호출하는 환경에서도 보안 정책을 적용할 수 있다. CLI는 개발자가 텍스트 명령어를 입력해 프로그램이나 AI 서비스를 사용하는 방식이다.

모니터랩은 현재 챗지피티(ChatGPT), 제미나이(Gemini), 클로드(Claude) 등 주요 생성형 AI 서비스의 접근 제어 기능을 제공하고 있다. 기업이 승인한 서비스만 사용할 수 있도록 제한하는 기능이다. 회사는 앞으로 통제할 수 있는 생성형 AI 서비스의 범위를 확대할 계획이다.

모델 컨텍스트 프로토콜(MCP) 트래픽을 통제하는 기능도 개발한다. MCP는 AI 모델이 사내 시스템이나 외부 업무 도구와 연결될 때 사용하는 표준 통신 방식이다.

모니터랩은 AI 에이전트가 MCP 서출하도록 제한하고 승인되버의 도구를 호출할 때 에이전트와 서버, 도구, 입력값을 식별할 계획이다. 기업이 허용한 도구만 호지 않은 요청은 차단한다. 호출 기록도 감사 로그로 저장해 사후 추적을 지원한다는 구상이다.

이광후 모니터랩 대표는 “생성형 AI가 고도화될수록 무조건 막는 것이 아니라 ‘질문’, ‘경로’, ‘대상’을 촘촘하게 가려내고 통제하는 방향으로 보안도 정교해져야 한다”며 “AI 에이전트가 도구를 호출하는 MCP 트래픽까지 통제 범위를 넓혀 프롬프트부터 실행 단계까지 생성형 AI 보안 체계를 구축하겠다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network