클라우데라 “AI 프로젝트 95%, 인프라 한계 직면”
클라우데라는 ‘AI 아키텍처 대전환(The Great AI Re-Architecture)’ 보고서를 12일 발표했다.
보고서는 전 세계 기업 아키텍트, 클라우드 인프라 담당자, 데이터 아키텍트 1500명을 대상으로 진행한 설문조사 결과를 담았다.
보고서에 따르면, 보고서에 따르면 기업은 AI 시대의 요구에 대응하기 위해 데이터 아키텍처를 전면적으로 재설계하고 있으며, 기업 IT 환경에 근본적인 변화가 진행되는 것으로 나타났다. AI 도입은 이미 보편화됐지만, 기존 데이터 아키텍처는 기업이 AI를 안전하고 효율적이며 비용 효과적으로 확장하는 데 점점 더 큰 제약이 되고 있는 것으로 조사됐다.
응답 기업의 77%는 현재 AI를 활용하고 있다고 답했지만, 95% 기업이 지난 1년간 거버넌스, 컴플라이언스, 규제 문제로 AI 이니셔티브를 지연하거나 취소한 경험이 있었다. 응답자의 72%는 향후 AI 요구사항을 충족하려면 현재의 데이터 아키텍처를 대대적으로 개편해야 한다고 답했다. 오늘날의 인프라가 최신 AI 요구에 맞게 구축되지 않았음을 보여준다.
보고서는 이러한 흐름을 ‘AI 아키텍처 대전환’이라고 정의했다. 기업들이 기존 데이터 아키텍처에서 벗어나 대규모의 데이터가 어디에 있든 신뢰할 수 있는 AI를 안전하게 활용할 수 있도록 지원하는 하이브리드 환경으로 전환하고 있다는 것이다.
세르지오 가고 클라우데라 최고기술책임자(CTO)는 “AI 시대는 기업이 기술 인프라의 기반을 다시 점검하도록 요구하고 있다”며 “많은 기업들이 데이터 분석을 위해 구축한 아키텍처가 오늘날 AI가 요구하는 확장성, 거버넌스, 유연성을 만족하도록 설계되지 않았다는 사실을 점차 깨닫고 있다”고 설명했다.
그는 “AI 성공은 결국 통제와 보안을 해치지 않으면서도 가장 효과적인 환경 어디서나 AI를 실행할 수 있는 자율성을 제공하는 데이터 기반 구축에 달려 있다”고 강조했다.
AI는 이미 개별 파일럿 프로젝트 단계를 넘어 기업 운영 전반에 자리 잡았다. 기업이 비즈니스 전반으로 AI를 확장하면서, 대규모 AI를 염두에 두고 설계되지 않았던 인프라에 가해지는 부담 역시 커지고 있다.
응답자의 75%는 AI 도입이 기업의 데이터 저장 및 아키텍처 운영 방식을 바꿨다고 답했으며, 84%는 AI 워크로드로 인해 인프라 비용이 증가했다고 밝혔다. 이는 기업이 단순히 데이터를 어디에 저장할지와 더불어, 데이터를 어떻게 관리하고, 거버넌스를 적용하며, AI 시스템에 전달할 것인지까지 재검토하고 있음을 보여준다.
아시아태평양 지역에서도 이러한 변화가 뚜렷하게 나타났다. 아태지역 응답자의 84%는 AI 도입으로 데이터 저장 및 아키텍처 운영 방식이 변화했다고 답했으며, 68%는 현재의 데이터 아키텍처가 향후 AI 요구사항을 충족하기 위해 대대적인 개편이 필요하다고 응답했다. 이는 아태지역 기업들 역시 데이터 아키텍처 변화가 빠르게 진행되고 있으며, AI 워크로드를 가장 적합한 환경에 배치하기 위한 하이브리드 전략을 빠르게 확대하고 있음을 시사한다.
기업들이 AI를 본격적으로 확장하면서 데이터 거버넌스는 기업용 AI 성공을 좌우하는 핵심 요소로 자리 잡고 있다.
클라우데라가 앞서 올해 발표한 데이터 준비 지수 보고서에서 응답 기업의 75%가 AI로 인해 기존 거버넌스 프로세스의 한계가 드러나고 있다고 답했고, 최신 조사 결과는 AI 활용이 확대될수록 이러한 문제가 더욱 심화되고 있음을 보여준다.
응답자의 73%는 AI로 인해 데이터 거버넌스가 더욱 복잡해졌다고 답했으며, 절반 이상인 55%는 거버넌스, 컴플라이언스, 규제 문제로 지난 12개월간 6개 이상의 AI 프로젝트를 지연하거나 취소했다고 밝혔다.
문제는 데이터가 더욱 분산되면서 더욱 복잡해지고 있는 점이다. 응답자의 97%는 최소 월 1회 이상 데이터를 다른 환경으로 이동시킨 적이 있다고 답했다. 이에 따라 클라우드, 프라이빗 클라우드, 온프레미스, 엣지 환경 전반에 걸친 일관된 거버넌스가 AI를 안전하게 확장하기 위한 필수 요소로 부상하고 있다.
기업들은 현대 AI 환경에서 요구되는 성능, 거버넌스, 비용, 유연성을 균형 있게 확보하기 위해 하이브리드 아키텍처를 점점 더 많이 도입하고 있다.
글로벌 응답자의 66%는 지난 1년간 퍼블릭 클라우드 환경에서 프라이빗 클라우드 또는 온프레미스로 AI 워크로드를 이전했다고 답했으며, 아태지역에서도 63%가 AI 워크로드의 일부를 프라이빗 클라우드 또는 온프레미스 환경으로 이전한 것으로 나타났다. 이는 AI 워크로드를 가장 적합한 환경에서 실행할 수 있도록 지원하는 하이브리드 아키텍처로의 전환이 가속되고 있음을 보여준다.
앞으로도 기업들은 단일 배포 모델에 의존하기보다 클라우드, 온프레미스, 엣지, 하이브리드 환경 전반에 걸쳐 투자를 확대할 계획인 것으로 나타났다. 응답자의 25%는 향후 2년간 하이브리드 우선의 아키텍처를 최우선 전략으로 추진할 계획이라고 답했으며, 이는 기업용 AI의 미래가 단일 인프라가 아닌 유연성을 중심으로 발전할 것임을 시사한다.
AI 도입 자체로는 경쟁력을 높일 수 없다. AI를 얼마나 효과적으로 최적화하는지 중요하다.
데이터 아키텍처를 현대화해 데이터를 일관되게 거버넌스하고 가장 적합한 환경에서 AI를 운영할 수 있는 기업이 확장 가능하고 안전한 AI를 구현하는 것은 물론, 지속적인 비즈니스 가치를 창출할 수 있다.
최승철 클라우데라코리아 지사장은 “많은 기업들이 거버넌스와 규제 문제로 AI 프로젝트를 지연하거나 취소했고, AI 워크로드를 퍼블릭 클라우드 밖으로 옮겼다”며 “규제 산업 비중이 높고 데이터 주권 요구가 강한 국내 시장도 이와 같은 흐름에 놓여 있다”고 설명했다.
그는 “국내 기업들이 ‘클라우드 만능주의’를 버리고 신뢰할 수 있는 데이터 위에서 AI를 확장할 수 있도록 클라우드, 온프레미스, 엣지를 아우르는 하이브리드 아키텍처와 일관된 거버넌스가 매우 중요한 시점”이라고 덧붙였다.
설문조사는 클라우데라가 의뢰하고 웨이크필드 리서치가 수행했다. 스페인, 싱가포르, 남아프리카공화국을 제외한 전 시장에서 직원 수 1000명 이상, 해당 3개국에서 250명 이상 기업에 근무하는 기업 아키텍트, 클라우드 인프라 담당자, 데이터 아키텍트 1500명이 응답했다. 조사는 3개 지역, 9개 시장에서 진행됐으며, 미주는 미국(600명), 캐나다(100명), 브라질(100명), 유럽·중동은 남아프리카공화국(100명), 스페인(100명), 영국(200명), 아시아태평양은 싱가포르(100명), 인도(100명), 일본(100명)이 포함됐다. 설문은 2026년 6월 5일부터 6월 22일까지 이메일을 통한 온라인 방식으로 진행됐다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
