클라우데라 “국내 기업 AI 투자 확대, 거버넌스가 걸림돌”

클라우데라는 글로벌 보고서 ‘2026 기업용 AI 현황: 확장의 새로운 규칙(The State of Enterprise AI 2026: The New Rules of Scale)’을 4일 발표했다.

해당 보고서는 전 세계 9개국 IT 리더 및 의사결정권자 1500명을 대상으로 실시한 설문조사를 바탕으로 기업이 대규모 AI를 지속하는 데 필요한 비용, 통제, 유연성 문제에 어떻게 대응하고 있는지 분석했다.

보고서에 따르면 비용 상승, 거버넌스 요구, 주권 요건이 기업의 AI 운영 방식과 위치를 바꾸면서 기업용 AI의 규칙이 달라지고 있다. 전 세계 응답자 10명 중 9명에 가까운 89%는 토큰 사용량 증가로 이미 AI 활용 사례를 제한하거나 재설계했다고 답했다. 또한 84%는 데이터 레지던시, 주권, 관할권별 요건이 AI 워크로드 배치 위치에 영향을 미친다고 답해, 기업이 AI를 확장하는 과정에서 더 높은 유연성과 통제력이 필요하다는 점을 보여줬다.

응답자의 98%가 장애, 환각, 예기치 않은 동작으로 AI 배포를 한 번 이상 철회한 것으로 나타났다. 75%는 거버넌스와 컴플라이언스가 AI 확장을 제한한다고 답했으며, 55%는 거버넌스 및 컴플라이언스 비용이 예상보다 빠르게 증가한다고 답했다.

응답자 45%는 비용 상승 또는 변동성 확대에 대응해 AI 워크로드를 다른 클라우드나 프라이빗 환경, 온프레미스로 이전했다. 84%는 레지던시 또는 주권 요건이 AI 실행 위치에 영향을 미친다고 답했으며, 58%는 워크로드를 이전하려면 중간 규모 이상의 재설계가 필요하다는 의견을 밝혔다.

국내 기업의 경우, AI 투자를 빠르게 늘리고 있는 것으로 나타났다. 국내 응답자의 72%는 1년 전보다 AI 투자가 늘었다고 답했으며, 19%는 ‘크게 늘었다’고 답했다. 이는 아태지역 전체(58%)와 글로벌(55%)을 웃도는 수치다. 국내 기업의 68%가 AI 이니셔티브에 연간 50만달러 이상을 투입하고 있으며, 100만달러 이상을 지출하는 기업도 절반에 가까운 49%에 달했다. 이는 아태지역 전체(32%)보다 크게 높은 수준이다.

AI 확장을 가로막는 요인으로는 ▲거버넌스 및 컴플라이언스(62%)가 가장 많이 꼽혔으며, 이는 아태지역 전체(73%)와 동일했다. 그 뒤로는 ▲데이터 주권(56%) ▲기술 및 전문성(51%) ▲데이터 통합(50%) 순으로 나타났다. 이는 AI 목표를 실현하려는 국내 기업들에게 가장 시급한 과제가 무엇인지 보여준다. 반면 토큰 비용 및 AI 추론을 꼽은 응답은 40%에 그쳐, 글로벌(89%)과 비교해 국내 기업들은 비용 측면의 부담을 상대적으로 덜 느끼는 것으로 나타났다.

세르지오 가고 클라우데라 최고기술책임자(CTO)는 “한국의 기업들은 상당히 탄탄한 데이터 플랫폼과 인프라를 가지고 있기 때문에 여러 가지 데이터를 AI에 활용하는 것이 상당히 쉽고 그리고 자연스럽게 느껴진다고 생각된다”며 “한국도 글로벌 흐름과 유사하게 주권이나 레지던시 요건 때문에 AI 워크로드를 소버린 클라우드, 퍼블릭 클라우드, 프라이빗 클라우드, 데이터센터, SaaS 등 멀티 환경에서 운영하면서 거의 모든 곳에 데이터를 두고 있다”고 설명했다.

그는 ”클라우데라는 전통적으로 AI를 데이터에 있는 곳으로 가져오는 방식을 취해왔는데, 고, 지금 실험들은 데이터를 AI 있는 곳으로 가져가고 있다”며 “그렇게 구축된 시스템은 고립되기 때문에 새로운 정책을 요구하고 전반적인 회사 정책과 데이터 정책과 동떨어져 있는 형태가 된다”고 지적했다.

그는 “이런 상황은 거버넌스, 규제, 법률, 사이버보안 등의 문제로 인해 AI가 실험 단계에서 프로덕션 환경으로 넘어가는 데 있어서 장애물로 작용한다”며 “AI를 데이터가 있는 곳으로 가져오면 기존과 동일한 정책 하에서 구현하기 때문에 데이터 워크로드 그 형태대로, 운영하는 형태대로 운영할 수 있다”고 덧붙였다.

이 조사에서는 장기적인 AI 성공에 필요한 기반에 대한 관심이 높아지고 있는 것으로 나타났다. 전 세계 응답자의 49%는 AI 여정을 처음부터 다시 시작할 수 있다면 초기부터 거버넌스를 강화하겠다고 답했으며, 46%는 데이터 품질에 더 일찍 투자하고, 45%는 인프라를 더 빨리 현대화하겠다고 밝혔다. 직원 교육에 더 많이 투자하겠다는 응답 역시 45%로 나타났다.

변화에 대한 적응력이 요구되면서 여러 환경에 걸친 유연성의 중요성도 커지고 있다. 기업들은 여러 환경에서 AI 워크로드를 운영하는 주요 이유로 ▲복원력(42%) ▲주권 및 레지던시 요건(38%) ▲비용 절감(38%) ▲데이터 근접성(37%)을 꼽았다.

국내 기업이 여러 환경에서 AI를 운영하는 이유로 가장 많이 꼽은 것은 주권 및 레지던시 요건(47%)으로, 글로벌(38%)을 웃돌았다. AI 워크로드를 기업 데이터 가까이에 두기 위해서라는 응답도 42%로 글로벌(37%)보다 높았다. 또한 국내 응답자의 82%는 데이터 레지던시, 주권, 관할권별 요건이 AI 워크로드 배치 위치에 영향을 미친다고 답했으며, 66%는 AI 워크로드를 다른 환경으로 옮기려면 중간 규모 이상의 재설계가 필요하다고 답해 글로벌(58%)보다 환경 간 이전 부담이 큰 것으로 나타났다.

클라우데라는 기업이 여러 환경 전반에서 일관된 거버넌스와 통제력을 유지하면서 데이터가 있는 곳 어디서나 AI를 활용할 수 있도록 지원한다. 데이터를 AI로 옮기는 대신 거버넌스가 적용된 데이터로 컴퓨팅을 가져옴으로써, 기업은 AI 수명주기 전반에 걸쳐 통제력을 유지하면서 변화하는 비용, 성능, 주권, 비즈니스 요구사항에 따라 워크로드 실행 위치를 선택할 수 있다.

세르지오 가고 CTO는 “클라우데라는 거버넌스 계층 구축에 초점을 맞추고 있으며, 이를 유니파이드 데이터 패브릭이라 부른다”며 “통합적인 데이터 패브릭을 통해 완전한 데이터, 환경에서 데이터 정책을 컨트롤하는 것이 가능하다”고 말했다.

그는 “제3자 데이터 시스템까지도 관리할 수 있으며, 엑사바이트 레벨 보안과 확장성을 구현하도록 설계됐다”며 “클라우데라 애니웨어 클라우드를 메인 플랫폼으로 활용해 프라이빗 AI를 구현하는데 사용할 수 있다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network