데이터이쿠, ‘에이전트 매니지먼트’ 출시

데이터이쿠는 기업에서 운영 중인 AI 에이전트를 추적하고 관리할 수 있는 에이전트 매니지먼트를 오는 10월 중 출시한다고 28일 밝혔다.

에이전트 매니지먼트는 어떤 플랫폼에서 구축됐는지와 관계없이 기업 내에서 운영되는 AI 에이전트를 파악하고, 비즈니스 성과 및 기술 성능을 측정한다. 이와 함께 위험도가 높은 에이전트를 식별해 관리할 수 있도록 지원한다.

전 세계 대기업은 일반적으로 자사가 운영하는 소프트웨어의 담당자, 비용, 계약 갱신 시점 등을 체계적으로 관리하고 있다. 반면 AI 에이전트의 경우 이와 같은 현황을 파악하고 관리하는 체계가 제대로 갖춰지지 않은 경우가 많다. 에이전트 매니지먼트는 이러한 문제를 해결하기 위해 기업 내에서 빠르게 늘어나는 AI 에이전트를 한눈에 파악하고 체계적으로 관리할 수 있도록 지원한다.

IBM의 ‘AI in Motion’ 연구에 따르면, 현재 운영 중인 AI 시스템을 빠짐없이 파악하고 최신 상태로 관리하는 조직은 전체의 20% 미만인 것으로 나타났다. 특히 대부분의 AI 에이전트 플랫폼은 자사에서 구축된 에이전트만 확인할 수 있어, 기업이 여러 플랫폼에서 운영하는 에이전트 전체를 통합적으로 파악하기 어렵다. 그 결과 상당수의 AI 에이전트는 담당자와 활용 목적은 물론, 관련 위험 요소와 비즈니스 성과까지 명확하게 관리되지 않고 있다.

에이전트 매니지먼트는 기업이 에이전트를 운영하는 데 사용하는 다양한 플랫폼과 연결해 각 플랫폼에 구축된 에이전트를 하나의 목록으로 통합한다. 지원 플랫폼은 데이터이쿠 자체 플랫폼은 물론, 아마존웹서비스(AWS) 베드록, 데이터브릭스 에이전트, 구글 버텍스, 마이크로소프트 코파일럿 스튜디오 및 애저 파운드리, 세일즈포스 에이전트포스, 스노우플레이크 코텍스 등이며, 커스텀 환경에서 오픈텔레메트리도 지원한다.

아울러 통합 플랫폼에서 각 AI 에이전트의 구조를 자동으로 파악하고, 에이전트가 사용하는 도구와 모델까지 확인할 수 있다. 관리자는 단순히 어떤 에이전트가 존재하는지를 넘어 각 에이전트가 실제로 어떻게 작동하는지까지 파악할 수 있다.

고객을 대상으로 서비스를 제공하거나 민감한 데이터를 처리하고 실시간 거래를 수행하는 등 위험도가 높은 에이전트의 경우에는 인증 상태와 식별된 위험 요소, 정기적으로 실행되는 테스트 결과를 지속적으로 기록한다. 이에 따라 관리자, 감사 담당자, 규제기관이 요청할 경우 필요한 근거 자료를 확인할 수 있다.

기존의 에이전트 모니터링 기능은 특정 공급업체의 기술 스택 안에서 작동하며 해당 공급업체의 에이전트에 초점을 맞추는 경우가 많다. 반면 에이전트 매니지먼트는 특정 플랫폼에 종속되지 않는 방식으로 설계됐다.

에이전트 매니지먼트는 여러 플랫폼을 아우르는 상위 관리 계층으로서 단일 플랫폼만으로는 파악하기 어려운 정보를 제공한다. 어떤 에이전트가 모니터링되지 않고 있는지, 위험이 어디에 집중돼 있는지, 어떤 에이전트가 투입된 비용에 상응하는 가치를 창출하고 있는지 등을 확인할 수 있다. 기업은 일상적인 언어로 질문해 전체 에이전트 현황을 바탕으로 필요한 정보를 확인할 수 있다.

플로리앙 두에토 데이터이쿠 공동 창업자 겸 CEO는 “은행에 현재 운영 중인 서버가 몇 대인지 물으면 소수점 단위까지 정확하게 답할 수 있지만, 운영 중인 AI 에이전트가 몇 개인지 물으면 추측으로 답하거나 정확히 파악하지 못하는 경우가 많다”며 “기업들이 처음부터 이렇게 복잡한 상황을 의도한 것은 아니지만, 각 팀이 빠르게 에이전트를 구축하면서 전체 현황을 파악하기 어려워지고 있다”고 설명했다.

그는 “에이전트 매니지먼트는 기업 내에서 실제로 운영되고 있는 에이전트의 현황을 파악하고, 각 에이전트가 창출하는 비즈니스 가치를 확인할 수 있도록 한다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network