스노우플레이크, AI 에이전트 확산 속 ‘데이터 통제’ 강조

“지난 수십 년간 거버넌스는 기업의 업무 속도를 늦추는 요소로 여겨졌지만, 에이전트 시대에는 오히려 혁신을 뒷받침하는 역할을 합니다.”

기업 내 인공지능(AI) 에이전트 도입이 늘면서 데이터 유출과 권한 남용, 예산 초과 등의 부작용을 방지하기 위한 통제 시스템이 구축됐다. 각 부서에서 개별적으로 운영하는 AI 에이전트를 단일 관문으로 관리하고, 기업이 사전에 설정한 보안 정책과 접근 권한을 일관되게 적용하는 방식이다.

크리스티안 클레이너만(Christian Kleinerman) 스노우플레이크 제품 부문 수석부사장은 최근 서울 강남구 포스코타워에서 열린 ‘스노우플레이크 익스페디션 2026(Snowflake Expedition 2026)’ 미디어 라운드테이블에서 화상 발표를 통해 이 같은 기업용 보안 전략을 소개했다. 이날 발표는 3일 미국에서 열리는 본 행사에 앞서 마련됐다. 아시아태평양·일본(APJ) 지역 미디어를 대상으로 기업 전반의 에이전틱 전환 비전과 주요 신제품을 소개했다.

기업들은 업무 효율을 높이기 위해 AI 에이전트 도입을 확대하고 있지만, 이에 따른 보안과 비용 관리 문제도 과제로 떠오르고 있다. 통제 범위를 벗어난 AI 에이전트가 예상하지 못한 비용을 발생시키거나 승인 절차를 우회해 민감한 내부 데이터를 유출할 수 있기 때문이다.

클레이너만 수석부사장은 이 같은 문제에 대응하기 위한 기술로 ‘코텍스 AI 게이트웨이’를 제시했다. 코텍스 AI 게이트웨이 시스템은 클라우드 환경이나 AI 모델 제공업체와 관계없이 기업 내 모든 AI 에이전트가 거쳐야 하는 단일 통제 관문 역할을 한다. 에이전트가 기업 데이터에 접근하거나 시스템 도구를 호출할 때 조직이 사전에 설정한 인증 및 접근 권한 정책을 적용해 통제하는 방식이라는 게 회사 측 설명이다.

코텍스 AI 게이트웨이는 AI 에이전트의 권한 남용과 내부자에 의한 오용을 탐지하는 기능도 제공한다. 단일 프롬프트뿐 아니라 에이전트의 전체 실행 과정을 분석해 탈옥이나 프롬프트 인젝션 등 악의적인 접근을 차단한다.

옵저버빌리티 기능을 통해 에이전트가 결론을 도출하는 과정에서 활용한 데이터와 시스템 도구 등 활동 내역을 추적하고 기록할 수도 있다. 딥러닝 모델 내부의 복잡한 연산 과정을 사람이 완벽하게 이해하기는 어렵지만, 에이전트가 호출한 시스템 도구와 검토한 비즈니스 맥락을 로그로 남겨 AI가 잘못된 의사결정을 내렸을 때 원인을 파악하고 책임 소재를 확인할 수 있도록 돕는다.

스노우플레이크는 이를 통해 금융이나 의료 산업처럼 엄격한 통제와 기록 관리가 요구되는 규제 환경에서도 AI 에이전트를 도입할 수 있도록 지원한다고 밝혔다.

AI 에이전트가 코드를 실행하는 과정에서 데이터를 보호하기 위한 ‘코텍스 샌드박스’ 기능도 도입됐다. 샌드박스는 에이전트가 외부로 데이터를 유출하지 못하도록 통신이 차단된 독립적인 환경에서 코드를 실행하도록 한다. 작업이 완료되면 샌드박스는 자동으로 종료된다.

코텍스 AI 게이트웨이를 거치는 에이전트는 전사적자원관리(ERP)와 고객관계관리(CRM)를 비롯한 100개 이상의 백엔드 시스템과 연동할 수 있다. 이를 통해 기업 내 다양한 비즈니스 시스템을 에이전트가 제어할 수 있도록 지원한다.

AI 에이전트의 사용 비용을 관리하는 기능도 포함됐다. 부서나 개별 에이전트 단위로 예산 한도를 설정해 지출을 제한하는 비용 거버넌스 기능을 제공한다. 작업 난이도에 따라 적합한 언어모델을 자동으로 연결하는 다이내믹 모델 라우팅 기술도 적용했다. 고도의 추론이 필요하지 않은 단순 반복 작업에는 상대적으로 가벼운 모델을 배정해 불필요한 연산과 비용 발생을 줄이는 방식이다.

보안과 비용 통제뿐 아니라 AI가 기업의 업무 맥락을 정확하게 이해하도록 지원하는 기능도 추가됐다. 스노우플레이크는 AI 환각을 줄이고 일관된 비즈니스 정보를 제공하기 위해 ‘비즈니스 온톨로지’를 도입했다. 기업마다 고유한 업무 용어와 수익 산출 방식이 다른 만큼 AI가 이를 잘못 이해하면 부정확한 답변이나 의사결정으로 이어질 수 있다. 비즈니스 온톨로지는 조직 내 주요 비즈니스 개념에 공통된 정의를 부여하고 이를 실제 데이터와 연결하는 기술이다. 담당 부서가 사전에 승인한 정의를 기준으로 AI 에이전트가 답변하도록 해 부정확한 정보가 생성되는 문제를 줄인다.

클레이너만 수석부사장은 “기존 AI 솔루션은 답변을 생성하는 과정에서 환각이 발생하거나 잘못된 결과를 내놓는 한계가 있다”며 “우리는 환각 방지를 최우선 과제로 삼고 있으며, 비즈니스 온톨로지를 통해 사전에 검증된 정의를 기반으로 AI가 정확한 답변을 제공하도록 지원한다”고 설명했다.

오픈AI와 앤스로픽 등 자체 AI 기술을 보유한 기업들이 에이전트 시장에 진출하면서 스노우플레이크는 기업 데이터 통제력을 차별화 요소로 내세우고 있다. 스노우플레이크에 따르면 범용 AI 모델이 우수한 성능을 갖췄더라도 기업 내부 데이터와 보안 환경에 대한 이해가 부족하면 정확한 결과를 제공하기 어렵다는 설명이다.

에이드리언 디 루카(Adrian De Luca) 스노우플레이크 솔루션 엔지니어링 아시아태평양·일본(APJ) 부문 부사장은 질의응답에서 “아무리 뛰어난 범용 모델이라도 기업 고유의 데이터와 보안 맥락이 결여되면 정확한 결과를 보장할 수 없다”고 말했다.

이어 “스노우플레이크의 궁극적인 목표는 외부의 강력한 AI 모델을 자사 보안 환경 안에서 활용할 수 있도록 하는 것”이라며 “이를 통해 고객이 데이터 유출 위험을 줄이면서 AI를 활용할 수 있는 환경을 구축하고자 한다”고 설명했다. 자체 AI 모델 개발에 집중하기보다 외부 AI 모델을 기업의 보안 정책과 데이터 통제 체계 안에서 활용할 수 있도록 지원하는 전략이다.

이날 디 루카 부사장은 실제 산업 현장의 도입 사례도 소개했다. 그는 “한 글로벌 제약사는 24시간 워크숍을 통해 비즈니스 프로세스를 구축하고, 3주 만에 실제 운영 단계까지 안착시켰다”고 말했다. 보안과 데이터 통제 체계를 갖춘 환경에서 기업이 AI 에이전트를 실제 업무에 도입하는 데 걸리는 시간을 단축할 수 있다는 설명이다.

스노우플레이크는 데이터 통제와 비즈니스 맥락에 대한 이해가 향후 기업의 AI 경쟁력을 좌우할 것으로 내다봤다. 클레이너만 수석부사장은 “앞으로 성공하는 기업은 단순히 많은 AI 에이전트를 보유한 곳이 아닐 것”이라며 “기업의 모든 데이터를 연결해 비즈니스 맥락을 정확히 파악하고 사전에 설정한 규칙을 준수하며, 수행한 모든 작업을 추적하고 설명할 수 있는 AI 에이전트를 갖춘 기업이 최종적인 경쟁력을 확보하게 될 것”이라고 말했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network