엔비디아-구글클라우드, AI 인프라와 SW 협력 강화

엔비디아가 구글클라우드와 파트너십을 통해 새로운 인공지능(AI) 인프라와 소프트웨어(SW)를 출시하기로 했다.

최근 열린 구글클라우드 넥스트에서는 엔비디아 창립자 겸 최고경영자(CEO)인 젠슨 황(Jensen Huang)과 구글클라우드 CEO인 토마스 쿠리안(Thomas Kurian)의 대담이 이뤄졌다.

대담에서는 파트너십을 통해 세계 대규모 AI 고객들에게 엔드투엔드 머신러닝(ML) 서비스를 제공하는 방법과 엔비디아 기술을 기반으로 구축된 구글클라우드 제품으로 AI 슈퍼컴퓨터를 쉽게 실행할 수 있는 방법이 논의됐다.

새로운 하드웨어(HW)와 SW 통합은 지난 2년간 구글 딥마인드와 구글 리서치 팀에서 사용한 것과 동일한 엔비디아 기술을 활용한다.

젠슨 황 CEO는 “우리는 가속 컴퓨팅과 생성AI가 결합해 놀라운 속도로 혁신을 가속화하는 전환점에 서 있다”며 “구글클라우드와의 파트너십 확대로 개발자의 작업을 가속화할 수 있다”고 말했다.

토마스 쿠리안 CEO는 “구글의 많은 제품이 엔비디아 GPU를 기반으로 구축하고 제공되고 있으며 많은 고객들이 생성AI를 발전시키기 위한 LLM의 효율적인 개발을 위해 엔비디아 가속 컴퓨팅을 찾고 있다”고 언급했다.

방대한 거대 언어 모델(LLM)을 구축하기 위한 구글 프레임워크인 PaxML은 이제 엔비디아 가속 컴퓨팅에 최적화됐다. 기존 PaxML은 여러 구글 TPU 가속기 조각에 걸쳐 구축됐지만, 이제는 PaxML을 통해 엔비디아 H100와 A100 텐서 코어 GPU로 완벽하게 구성 가능한 고급 실험과 확장을 수행할 수 있다는 설명이다.

GPU에 최적화된 PaxML 컨테이너는 엔비디아 NGC SW 카탈로그에서 즉시 사용할 수 있다. 또한 PaxML은 OpenXLA 컴파일러를 통해 GPU에 최적화된 JAX에서 실행된다.

또한 PaxML에 최적화된 엔비디아 컨테이너는 엔비디아 NGC 컨테이너 레지스트리에서 즉시 사용할 수 있다. 해당 컨테이너는 차세대 AI 기반 애플리케이션을 구축하는 전 세계 연구자, 스타트업, 기업을 대상으로 한다.

아울러 양사는 구글의 데이터프록(Dataproc) 서비스를 통해 구글의 서버리스 스파크와 엔비디아 GPU를 통합한다고 발표했다.

이를 통해 데이터 사이언티스트는 아파치 스파크 워크로드(Apache Spark) 를 가속화해 AI 개발을 위한 데이터를 마련할 수 있게 됐다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network