브로드컴, 엔비디아 없는 ‘AI 팩토리’ 솔루션 출시

브로드컴은 안전성, 확장성 및 유연성을 한층 강화한 AI 솔루션인 ‘VM웨어 프라이빗 AI 클라우드’를 1일 공개했다.

VM웨어 프라이빗 AI 클라우드는 AI 모델이 데이터를 찾아가는 방식을 적용한다. VM웨어 프라이빗 AI 클라우드는 브로드컴의 첨단 소프트웨어 역량을 토대로 추론 워크로드, 에이전틱 애플리케이션 및 기존 엔터프라이즈 워크로드를 단일의 프라이빗 클라우드 플랫폼에서 안전하게 구축, 운영 및 관리할 수 있는 프로덕션-레디 경로를 지원한다. 다양한 하드웨어, 모델 및 가속기를 선택할 수 있는 VM웨어 프라이빗 AI 클라우드를 통해 AI를 경제적으로 확장하도록 지원한다.

브로드컴은 프라이빗 AI 클라우드의 소프트웨어 정의 기반인 ‘VM웨어 AI 팩토리’를 발표했다. VM웨어 AI 팩토리는 AI-레디 인프라 배포 및 데이2 운영을 위한 혁신적인 자동화 기술로 고객의 프로덕션 경로를 간소화한다. VM웨어 AI 팩토리를 통해 기업은 최초 모델 배포 시간을 단축하고 AI 토큰 경제성을 더욱 더 잘 관리할 수 있다.

VM웨어 AI 팩토리는 기업이 업계 선도적인 AI 모델을 온프레미스에서 운영하기 위한 경로를 제공한다. VCF 기업 고객은 네모트론3, 젬마4, 코토미, 큐웬 3.7 맥스, GLM-5.2 등 150여개 오픈 웨이트 및 상용 모델을 운영할 수 있다. 브로드컴은 글로벌 AI 모델 선도 공급사와 협력을 통해 기업이 데이터 주권을 확보하고 경제적으로 AI를 확장할 수 있도록 지원하며, 사용자 커뮤니티는 VCF의 빌트인 서비스를 통해 업계 선도적인 모델을 안전하게 서비스 받을 수 있다.

VM웨어 AI 팩토리는 2023년 출시된 ‘VM웨어 AI 팩토리 위드 엔비디아’와 별개 제품이다. AI 하드웨어로 엔비디아 플랫폼을 고정하지 않는다. 브로드컴은 AMD와 협력해 AMD 인스팅트 GPU 및 개방형 AMD ROCm 소프트웨어 생태계와 연동되는 VM웨어 AI 팩토리 버전을 개발했다. 또한, ‘AI 팩토리’는 엔비디아에서 밀고 있는 브랜드로, 브로드컴이 엔비디아의 브랜드를 도용한 모양새다.

VCF는 NIST CSF 2.0을 준수하는 심층 방어를 기반으로 설계되어 공격 표면을 최소화하고, 지속적인 컴플라이언스를 구현함으로써 AI로 더 빨라지는 위협으로부터 인프라를 보호한다. 자동화된 무중단 업데이트를 통해 시스템을 최신 상태로 유지한다. VM웨어 v디펜드는 가상 패칭 및 마이크로세그멘테이션 기반 하이퍼바이저 수준의 횡적 보안으로 제로 트러스트를 구현하고, 공격시도를 차단한다. 멀티-레이어 위협 방어와 웹 애플리케이션 방화벽 및 API 보호는 고도화된 공격을 방지한다.

스프링 엔터프라이즈는 더 빨라지는 AI 기반 공격에 대응하도록 설계돼 자체 유지 관리 팀을 통해 안전하고 검증된 스프링 릴리스를 제공한다. 여기에는 최신 AI 모델을 활용한 스캔과 사람에 의한 검증을 거친 패치가 포함되며, 모든 릴리스 라인에 동시 제공된다. 트루시큐어 트러스티드 아티팩트는 자바 생태계, 파이썬, 노드JS, 비트나미 시큐어 이미지 카탈로그 등에 걸쳐 클린룸 빌드를 확장하고, 트루소스 데이터 서비스는 포스트그레SQL, 래빗MQ, 마이SQL, 발키 등의 데이터 계층에 동일한 표준을 적용한다.

새로운 v디펜드 기능은 에이전틱 AI 워크로드에 대한 제로 트러스트 기반의 횡적 보안을 강화한다. 트래픽 흐름을 지속적으로 모니터링해 에이전틱 AI 구성요소를 식별하고, 승인되지 않은 섀도우 AI 사용을 탐지한다. AI가 생성한 침입 탐지 및 방지(IDPS) 시그니처를 활용해 분산형 가상 패치를 제공함으로써 보안 위협에 신속하게 대응할 수 있도록 지원한다.

VM웨어 탄주 플랫폼은 VM웨어 v디펜드와 함께 기본 거부형(deny-by-default) 아키텍처, 사전 구축된 하네스 및 엄선된 마켓플레이스를 통해 신뢰할 수 있는 엔터프라이즈 에이전트를 위한 기반을 제공한다.

브로드컴의 인프라 소프트웨어 그룹 사장인 람 벨라가는 “VM웨어 프라이빗 AI 클라우드는 엔터프라이즈 프라이빗 클라우드와 프라이빗 AI 인프라가 더 이상 별개가 아닌 하나로 운영하는 변곡점”이라며 “이를 통해 기업은 데이터 주권, 컴플라이언스 태세, 사업상 요구되는 비용 예측성을 확보하면서 프로덕션 추론 워크로드와 에이전틱 AI를 운영할 수 있다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network