VM웨어, 프라이빗 AI 확장 위해 인텔과 협력 강화

VM웨어가 기업이 데이터센터, 퍼블릭 클라우드, 엣지 환경 전반에서 프라이빗 인공지능(AI) 도입을 구현, 가속화하기 위해 인텔과의 협업을 확장한다고 8일 발표했다. VM웨어와 인텔은 혁신을 위해 20년 넘게 협력을 이어오고 있다.

양사는 공동으로 검증된 AI 스택을 제공하는 데 협력하고 있다. AI 스택으로 고객은 기존의 범용 VM웨어 및 인텔 인프라와 오픈소스 소프트웨어를 사용해 더 간편하게 AI 모델을 구축하고 배포할 수 있다는 게 VM웨어의 설명이다.

VM웨어 클라우드 파운데이션(Cloud Foundation)과 인텔의 AI 소프트웨어 제품군, AI 가속기가 내장된 인텔 제온 프로세서, 인텔 맥스 시리즈 GPU의 결합은 데이터 준비, 모델 학습, 미세 조정, 추론을 위한 검증되고 벤치마크된 AI 스택을 제공한다.

VM웨어 클라우드(VMware Cloud)는 전 세계 30만여개 기업 고객을 보유하고 있다. VM웨어 가상화 소프트웨어가 데이터가 생성, 처리, 소비되는 기업 환경 전반에 배포돼 있다는 점에서, 고객사는 VM웨어 클라우드를 활용하면 비즈니스 전반에서 AI 가속화 컴퓨팅과 모델을 빠르게 도입할 수 있다.

인텔 역시 수십만 고객에게 확장 가능하고 신뢰할 수 있는 개방형 솔루션을 제공하고 있다. VM웨어와 인텔 제품은 조직이 AI를 통해 비즈니스 이점을 누릴 수 있게 하는 동시에 개인정보 보호와 규정 준수 요구사항을 충족하는 아키텍처 접근 방식인 프라이빗 AI를 도입할 수 있도록 지원한다.

VM웨어는 일관성 있는 엔터프라이즈급 인프라와 운영 간소화, 향상된 보안을 제공하는 프라이빗 AI를 지원하는데 주력하고 있다. VM웨어 프라이빗 AI는 기존 AI와 머신러닝(ML) 워크로드, 생성형 AI에 대한 지원을 바탕으로 퍼블릭 클라우드, 엔터프라이즈 데이터센터, 엣지 등 엔터프라이즈 데이터가 생성, 처리 및 소비되는 모든 환경에 컴퓨팅 용량과 AI 모델을 제공한다. VM웨어와 인텔은 고객의 프라이빗 기업 데이터를 사용해 몇 분에서 몇시간 이내에 작업 특화 모델을 미세 조정하고, 대규모 언어 모델을 사람보다 빠르게 추론할 수 있다.

이번 협력 확장으로 양사는 공유 가상 시스템에서 업데이트 및 유지관리가 용이한 한층 작고 경제적인 최신 모델을 미세 조정할 수 있게 됐으며, 배치(batch) AI 작업 후 IT 리소스 풀에 다시 제공할 수 있다. 또 AI 지원 코드 생성, 경험 기반 고객 서비스 센터 추천 시스템, 전통적인 머신 통계 분석 등 사용 사례를 애플리케이션을 실행하는 동일 범용 서버에서 구동하는 것도 가능하다.

크리스 울프(Chris Wolf) VM웨어 AI 랩스 부사장은 “프라이빗 AI는 AI에 대한 선택권, 개인정보 보호, 제어 등 세 가지 요소를 모두 제공하기 때문에 고객은 AI 도입을 가속화하며 미래형 AI 인프라를 구축할 수 있다”며 “VM웨어 프라이빗 AI는 인텔과의 협력을 바탕으로 양사 고객이 직원 생산성을 획기적으로 개선하고, 주요 비즈니스 기능 전반에서 혁신을 일으키며, 경제적 효과를 창출하는 데 기여할 것”이라고 말했다.

산드라 리베라(Sandra Rivera) 인텔 데이터센터 및 AI 그룹 총괄 수석부사장은 “지난 수십 년간 인텔과 VM웨어는 고객이 더 빠르게 움직이고 혁신을 거듭하며 효율적인 운영을 할 수 있도록 차세대 데이터센터 투 클라우드(data center to cloud) 기능을 제공해 왔다”며 “AI는 새롭고 강력한 가능성을 열어주며 전 세계 모든 이들의 삶을 개선할 수 있는 잠재력을 가지고 있다. 인텔과 VM웨어는 실리콘과 소프트웨어 기반의 새로운 AI 시대로 기업을 이끌 준비가 돼 있다”고 전했다.

VM웨어와 인텔은 VM웨어 클라우드 파운데이션에 인텔의 AI 소프트웨어 제품군과 인텔 제온 프로세서, 데이터 센터 GPU를 결합해 고객이 이미 보유하고 있는 인프라에 프라이빗 AI 모델을 구축`배포할 수 있게 해 총소유비용(TCO)를 줄이고 환경 지속 가능성 문제도 해결하는 레퍼런스 아키텍처를 설계한다고 설명했다.

회사측에 따르면, 인텔 어드밴스드 매트릭스 익스텐션(Intel AMX)이 내장된 4세대 인텔 제온 프로세서는 표준 산업 프레임워크와 라이브러리, 엔드투엔드 데이터 과학 생산성 툴, 최적화된 AI 모델을 사용해 최대 10배 향상된 기본 성능을 제공한다.

최대 128개의 Xe 코어를 제공하는 인텔 데이터센터 GPU 맥스는 가장 까다로운 AI 워크로드를 다루는 인텔의 기본 GPU 컴퓨팅 빌딩 블록이다. 인텔 맥스 시리즈 GPU는 다양한 고객의 요구 사항을 충족하는 다양한 형태의 폼팩터로 제공될 예정이다.

인텔의 AI 소프트웨어 제품군은 엔드투엔드 오픈소스 소프트웨어와 선택적 라이선스 구성 요소로 패키징됐다. 이를 통해 개발자가 데이터 준비부터 미세 조정, 추론에 이르는 전체 AI 파이프라인 워크플로우를 실행하고, 멀티 노드 확장과 엔터프라이즈 IT 인프라 상의 AI 배포를 가속화할 수 있다. 인텔의 개방형 원API 프레임워크는 프로세서 및 하드웨어 가속기에 구애받지 않는 소프트웨어 개발을 지원한다. 이에 개발자는 여러 코드 기반이나 전문 언어가 없어도 한번 작성한 코드로 다양한 아키텍처에서 코드를 실행할 수 있다.

VM웨어 프라이빗 AI는 인텔 AMX 및 인텔 맥스 시리즈 GPU가 탑재된 4세대 제온 CPU를 실행하는 델 테크놀로지스, 휴렛팩커드 엔터프라이즈(HPE), 레노버(Lenovo) 서버에서 이용할 수 있다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network

AI 트랜스포메이션을 위한 리테일 테크는 무엇일까

– 리테일 & 로지스 테크 컨퍼런스 2024

리테일 산업은 이제 디지털 산업입니다. 온라인뿐 아니라 오프라인 기업도 디지털 기술을 활용하지 않고서는 생존할 수 없습니다. AI 기술의 발달은 리테일 업계에 새로운 기회와 도전과제를 안겨주었습니다.

생성형 AI, 이커머스 쏠림, D2C 확장, 오프라인 매장의 폐점, 경기 침체, 늘어만 가는 배송 수요 등의 많은 변화 속에서 리테일과 물류, 커머스 업계는 디지털 없이는 변화에 대처할 수 없음을 알고 있습니다.

이에 바이라인네트워크는 리테일&로지스 테크 컨퍼런스 2024를 개최합니다. 리테일과 물류 기업이 어떻게 AI와 디지털 기술을 활용하고 있는지, 디지털 혁신을 위해 필요한 기술과 활용사례는 무엇인지 살펴보는 자리가 될 것입니다.

  • 일시: 2024년 3월 7일(목) 9:00 ~ 18:00
  • 장소: 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다