기사

데이터와 AI로 비즈니스를 혁신하는 전환은 쉽지 않다. 데이터와 AI 자산, 그리고 데이터와 AI를 활용하는 모든 플랫폼과 시스템이 파편화됐기 때문이다. 다양한 시스템, 기록 시스템, 데이터의 상류와 하류에 존재하는 다양한 앱과 솔루션이 흩어져있으면, 데이터가 중복되고, 모든 거버넌스와 통제도 분산된다. AI 에이전트 시대에 성공하려면 레거시 시스템 간의 단절을 해결하고, 운영 데이터와 분석 데이터의 세계를 하나로 묶는 방법을 찾아야 한다.

기업의 전반적인 기술 투자가 AI, 클라우드 네이티브 환경에 집중되면서 AI, 컨테이너 환경에 집중되면서 레거시 인프라 투자는 계속 줄어들 것으로 예상된다.

많은 기업에서 개발자가 쿠버네티스와 컨테이너 인프라를 직접 관리해야 하는 상황이 이어지고 있다. 쿠버네티스 환경에 기존 컨테이너와 가상머신(VM) 환경이 통합되고, 전통적인 워크로드 외에 생성형 AI란 GPU 집약적 워크로드가 추가되며 관리 복잡성은 기하급수적으로 증가하는 추세다. 이를 안정적으로 관리하는 방안으로 사전 검증과 호환성 테스트, 기술 지원 등을 포함한 벤더의 턴키 플랫폼이 주목받고 있다.

AI 모델 추론이나 데이터 파이프라인 등 AI 마이크로 서비스들이 쿠버네티스 상에서 동작하는 구조가 일반화되면서, 많은 운영자가 복잡한 운영 환경에 직면하고 있다. 풀스택 옵저버빌리티 플랫폼인 데이터독은 쿠버네티스부터 GPU, AI 기반 분석까지 단계별로 AI 인프라를 관리하고 장애에 대응하는 방안을 제시한다.