레거시된 VM웨어, AI 혁신 플랫폼 될 수 있나

“오늘날 시장에 AI의 선택지가 매우 많지만, 고객은 VM웨어 프라이빗 AI 파운데이션을 선택하고 있다. 엔터프라이즈 프로덕션에 빠르게 AI 워크로드를 배포하게 하는 속도, 인프라 풀링과 공유, 분산형 리소스 스케줄링, 단일 플랫폼 운영 등의 이점 때문이다. 출시 후 80개 이상의 고객에게 선택받았다.”

크리스 울프 브로드컴 VCF 부문 AI 및 어드밴스드서비스 글로벌 총괄은 브로드컴코리아가 4일 개최한 ‘VM웨어테크서밋2025 서울’ 미디어 브리핑에서 이같이 밝혔다.

브로드컴에 인수된 후 VM웨어는 IT 담당자에게 애증의 대상이다. 업계는 VM웨어의 가상화 환경을 두고 ‘교체하기도 유지하기도 부담스러운 기술 부채’라고 표현한다. 경쟁사들은 VM웨어 환경을 클라우드 네이티브로 지금 이전하지 않으면 AI 혁신에 뒤처질 것이라고 주장한다. 이에 VM웨어는 현재의 최첨단 혁신으로 꼽히는 생성형 AI를 자사의 프라이빗 클라우드 플랫폼에서 운영할 수 있다고 고객을 설득하고 나섰다.

VM웨어는 지난 8월 ‘VM웨어 프라이빗 AI 파운데이션’을 발표했다. VM웨어클라우드파운데이션(VCF) 9.0 출시에 포함된 이 생성형 AI 운영 기능은 컨테이너 환경 기반의 AI 모델 배포 및 운영을 지원한다.

처음 공개된 솔루션은 브로드컴과 엔비디아의 협력 결과다. 브로드컴과 엔비디아는 ’VM웨어 프라이빗 AI 파운데이션 위드 엔비디아’란 공동 플랫폼을 제공한다. 기업은 대규모 언어모델(LLM)을 미세 조정하고, 검색 증강 생성(RAG) 워크플로우를 배포하고, 데이터 센터 내에서 추론 워크로드를 실행해 개인 정보 보호, 선택, 비용, 성능 및 규정 준수와 관련된 우려 사항을 해결할 수 있다.

모델 스토어를 통한 보안 모델 전달, 모델 런타임을 통한 모델 배포, 확장성 등의 기능을 제공해 기업의 AI 배포를 단순화한다. VM웨어는 AI 워크로드를 에어갭 환경에서 배포할 수 있게 하고, 엔비디아 NIM과 블루프린트로 모델과 참조 AI 워크플로우를 제공한다.VM웨어 프라이빗 AI 패키지는 벡터 데이터베이스, 딥러닝 VM, 데이터 인덱싱 및 검색 서비스, AI 에이전트 빌더 서비스 등의 기능도 제공한다.

VM웨어 상에서 AI 워크로드는 가상화와 공유 GPU를 지원하고, 인프라 팀은 할당된 vGPU를 적절한 용량에 매핑하고 필요한 네트워크, 데이터 I/O 및 CPU를 관리할 수 있다.

크리스 울프 총괄은 “엔터프라이즈 기업이 AI 모델용 드라이버와 가속기에 최적화된 커널, 프레임워크를 선택하고, 검증하는 과정에 통상 2주일 걸린다”며 “VM웨어 프라이빗 AI를 사용하면 엔터프라이즈급 프로덕션 환경에 AI 워크로드를 몇 분 안에 배포할 수 있다”고 말했다.

그는 “AI를 구동하려면 GPU뿐 아니라 데이터 I/O, 네트워킹 I/O, 메모리, CPU 등을 모두 갖춰야 하며, VM웨어의 분산형 리소스 스케줄링(DRS)를 이용하면 로드밸런싱을 자동화해 다양한 클러스터를 효과적으로 활용할 수 있게 된다”며 “이와 유사한 건 이제 첫 버전을 발표한 쿠버네티스의 다이나믹리소스올로케이션 밖에 없다”고 강조했다.

이어 그는 “고객이 VCF를 활용하면 가상머신, 컨테이너, AI 서비스 등을 단일한 관리 도구를 사용하게 돼 총소유비용(TCO)을 50% 절감할 수 있다”고 덧붙였다.

브로드컴은 최근 AMD와도 프라이빗 AI 제공을 발표했다. AMD 인스팅트 MI350 GPU 가상화를 제공하고 AMD 엔터프라이즈 AI 소프트웨어를 통합할 수 있다. 여기에 오픈소스 생태계의 구성요소를 쓸 수 있다.

크리스 울프 총괄은 “기존 플랫폼에 멀티테넌트 서비스형 모델(MaaS), VCF용 인텔리전트 어시스트, 모델컨텍스트프로토콜(MCP) 지원 등이 새로 추가될 예정”이라며 “

그는 “인프라 프로비저닝, AI 모델 선정, 모델 실행에 이르는 AI 서비스 배포 주기를 모두 지원한다”며 “시장의 수많은 인프라 벤더 중 VCF만 추가 비용없이 모든 AI 서비스를 플랫폼에 통합해 제공하고 있다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network