데이터독, IT 자율 운영 로드맵 강화

데이터독이 IT 시스템의 자율 운영 로드맵을 구체화하고 있다. 기업의 IT운영·보안 체계가 AI 도입 속도를 따라잡을 수 있도록 옵저버빌리티 솔루션에 자율 운영 역량과 AI 거버넌스를 강화하는 모습이다.

데이터독코리아는 9일 서울 사무실에서 미디어 라운드테이블을 열고, 지난 6월 뉴욕에서 열린 데이터독 연례 컨퍼런스 ‘DASH 2026’의 주요 발표 내용과 제품 기능을 소개했다.

엄수창 데이터독코리아 지사장은 환영사에서 마이크로소프트의 AI 도입 현황 보고서를 인용해 2026년 1분기 한국의 생성형 AI 사용률이 이전 분기 대비 크게 증가한 37.1%에 달한다면서, 최근 3개 이상의 모델을 함께 운영하는 멀티모델 기업이 전체의 70%에 이른다는 데이터독 자체 분석 결과를 제시했다.

문제는 이런 AI 도입 속도를 운영 체계가 따라가지 못하고 있다는 점이다. AI 에이전트 확산과 함께 공격 형태도 다양해졌다. 프롬프트 인젝션, 에이전트의 민감정보 유출, 권한 오남용, 의도치 않은 자율 실행 등이 새로운 공격 유형으로 꼽혔다. 이에 AI 모델·데이터·에이전트 행동 전반을 관찰하고 통제하는 통합 체계의 필요성이 대두됐다는 게 데이터독 측 설명이다.

엄 지사장은 “AI 사용량과 오남용이 동시에 늘고 비용이 기하급수적으로 증가하는 상황에서, 이를 어떻게 관리할 것인가가 가장 큰 고민거리가 되고 있다”고 말했다.

엄 지사장은 AI 에이전트 시대에 맞춰 옵저버빌리티(관측가능성) 요건이 달라지고 있다고 짚었다. 그가 꼽은 핵심 요건은 3가지다.

첫째는 실시간 가시성이다. AI가 요청에 따라 그때그때 응답을 만들어내는 만큼, 지금 무슨 일이 벌어지고 있는지 즉시 파악할 수 있어야 한다는 것이다. 둘째는 보안과 옵저버빌리티 통합이다. 과거에는 보안 관제와 인프라 관제가 분리돼 있었지만, AI 시대에는 문제가 한데 얽혀 발생하기 때문에 통합된 관제 체계가 필요하다는 설명이다. 셋째는 사전 탐지·분석 역량이다. 장애나 위협, 이상 행동이 벌어진 뒤 대응하는 방식에서 벗어나 사전에 이를 알아채고 대응하는 방식으로 전환해야 한다는 것이다.

엄 지사장은 또한 기존 옵저버빌리티가 서비스 작동 여부나 레이턴시, 오류율 같은 지표에 집중했다면 AI 시대에는 모델 응답 품질, 입·출력 데이터의 드리프트, 문제 발생 단계까지 살펴야 한다고 설명했다. 이를 위한 핵심 과제로는 ▲모든 프롬프트·응답과 그 과정에 쓰인 도구·컨텍스트, 액션별 토큰·레이턴시·비용까지 추적하는 엔드투엔드(E2E) 모니터링 ▲모델의 응답 품질 저하를 실시간으로 파악하는 AI 품질 관리 ▲프롬프트 인젝션과 데이터 오염을 탐지하고 민감정보 유출을 차단하는 보안·가드레일 체계가 꼽혔다.

해법은 ‘자율 운영’과 ‘AI 거버넌스’

이어 발표에 나선 정영석 데이터독 코리아 기술총괄은 앞서 엄 지사장의 진단에 대한 해법으로 이번 DASH 2026에서 공개된 제품과 기능들을 소개했다. 정 총괄은 그중에서도 한국 시장에 특히 의미 있는 두 가지 테마로 오토노머스 오퍼레이션(자율 운영)과 AI 거버넌스를 꼽았다.

데이터독의 AI 에이전트 제품군 ‘비츠(Bits) AI’는 시스템 장애 발생 시 탐지(Detect)-분석(Investigate)-해결(Remediate)로 이어지는 과정 전체를 자동화한다. 서비스 에러율이 임계치를 넘어서면 자동으로 이상 징후를 탐지해 알리고, 이어 데이터베이스 문제·배포 이슈·특정 사용자 타임아웃 등 여러 가설을 세운 뒤 보유한 운영 데이터를 바탕으로 하나씩 검증해 근본 원인을 좁혀간다. 최종적으로는 코드 수정 제안과 함께 깃허브 풀 리퀘스트(PR)까지 자동 생성해 담당자가 검토만 하면 되는 수준까지 지원한다.

예를 들어 웹스토어 서비스에서 관리자 기능 관련 에러율이 치솟으면, 비츠 AI가 자동으로 여러 가설을 세우고 하나씩 검증하는 과정을 거쳐 약 4분 만에 원인을 특정했다. 비츠 AI는 문제가 된 코드의 정확한 위치까지 짚어 수정 방향을 제안한다.

정 총괄은 이런 탐지·분석 과정을 사이트 신뢰성 엔지니어(SRE)가 직접 수행하면 짧게는 10~50분, 길게는 1~2시간이 걸리지만 Bits AI를 활용하면 5분 이내로 단축된다고 설명했다. 장애 보고서 작성 역시 사람이 하면 오래 걸리지만, 비츠 AI는 프롬프트 입력만으로 이슈 발생 시점, 근본 원인, 장애 전파 경로 등을 담은 보고서를 자동 생성해준다.

인프라 자원 조정도 자동화 대상이다. 메모리나 CPU·GPU 코어 부족 같은 이슈를 감지하면 슬랙 등을 통해 조정 여부를 확인받거나, 사전에 정한 가드레일 기준에 따라 승인 없이 바로 조정하는 것도 가능하다. 정 총괄은 이를 통해 담당자가 자리를 비운 야간·주말에도 서비스가 자동으로 복구된다고 설명했다.

이 밖에 ‘비츠 에이전트 빌더(Bits Agent Builder)’를 활용하면 별도 배포 인프라 없이 프롬프트 입력만으로 보안·옵저버빌리티 관련 맞춤형 에이전트를 만들어 곧바로 데이터독 플랫폼 위에서 구동할 수 있다는 점도 소개됐다. 매일 아침 보안 현황을 정리해 보고하는 에이전트 등이 예시로 제시됐다.

DASH 2026 발표 내용 중 정 총괄이 강조한 두 번째 테마는 AI 거버넌스다. 정 총괄은 기업들이 다양한 모델과 에이전트를 동시에 사용하면서, 과도한 권한 부여로 인한 민감정보 유출 우려가 커지고 있다고 짚었다. 그는 강화된 데이터독 제품군이 이처럼 복잡해진 멀티 모델 및 에이전트 활용 환경 전반에 대한 가시성과 통제력을 제공한다고 설명했다.

구체적으로는 3개 영역이 소개됐다. 먼저 에이전트 옵저버빌리티다. 에이전트 내부에서 어떤 모델과 도구가 실행에 사용됐는지, 처리 시간과 비용은 얼마나 소요됐는지 단계별로 보여줌으로써 개발자가 비효율적인 구간을 빠르게 찾아 개선할 수 있도록 돕는다. 두 번째는 게이트웨이 방어 기능이다. 여러 모델 중 최적의 응답·비용을 찾아주는 게이트웨이 도입 기업이 늘고 있는데, 데이터독의 AI 가드가 이 게이트웨이 단에서 악의적인 프롬프트 인젝션 시도나 민감정보 유출 요청을 탐지해 차단한다. 세 번째는 비용·활용 현황 대시보드로, 부서·프로젝트·개발자별로 AI 사용 비용을 분석해 모델 교체 등 의사결정에 활용할 수 있도록 지원한다.

정 총괄은 게이트웨이나 에이전트 등 개별 영역에 특화된 솔루션은 많지만 개발부터 게이트웨이, 비용 관리까지 엔드투엔드로 아우르는 기업은 많지 않다며 이 지점이 데이터독의 차별점이라고 강조했다.

정 총괄은 “IT 담당자가 아침에 출근하면 간밤에 진행된 이벤트에 대한 성공 여부나 사용자 만족도, 발생한 보안 위협 등을 일괄적으로 보고받고, 새벽에 인프라 문제가 있었다면 스스로 복구까지 마쳐두는 형태가 데이터독이 지향하는 자율 운영”이라고 밝혔다.

글. 바이라인네트워크
<이슬찬 기자>seulbae@byline.network