오라클 OCI, 구글 TPU 서비스 제공한다

오라클이 클라우드 경쟁사 구글의 AI 칩을 자사 클라우드 인프라에서 서비스한다. 구글 TPU를 제3의 하이퍼스케일러가 서비스하는 첫 사례다.

오라클은 27일 개최한 ‘오라클 AI 월드 2026’ 둘째날 구글의 텐서 프로세싱 유닛(TPU) 서비스를 제공할 예정이라고 발표했다.

그동안 구글 TPU는 구글 클라우드 내에서만 이용할 수 있었다. 구글은 올해 TPU의 외부 기업 고객 공급 계획을 처음으로 밝혔고, 내년부터 본격적으로 출하할 예정이었다. 그리고 오라클이 구글의 TPU를 제공하는 첫 외부 하아퍼스케일러가 됐다.

오라클은 구글의 특수 설계 TPU를 오라클클라우드인프라스트럭처(OCI)의 AI 컴퓨팅 포트폴리오에 통합한다. 고객은 선형적인 확장성과 고도로 최적화된 경제성을 고려해 설계된 인프라를 통해 가장 까다로운 워크로드에 맞는 유연성을 확보할 수 있다.

구글 TPU는 오픈 소스 소프트웨어와 공동으로 설계된 맞춤형 가속기로, 최첨단 학습 및 대규모 추론부터 에이전트형 AI의 다단계 추론 데이터 요구 사항에 이르기까지 전체 AI 라이프사이클을 지원한다. OCI는 인프라 내에서 구글 TPU를 대규모로 배포하는 데 필요한 전력, 냉각 및 데이터센터 네트워크를 제공할 예정이다.

모델의 규모가 커지고 실제 추론 요구량이 증가함에 따라 모든 학습 실행 및 추론 요청의 성능과 경제성이 점점 더 중요해진다. 구글 TPU 아키텍처는 모델 데이터에 대한 빠른 접근과 칩 간의 신속한 통신을 통해 전력 소비량을 극대화해 AI 처리 효율을 높이도록 설계됐다.

구글 TPU는 대규모 모델 학습 및 학습 후 처리(밀집 모델 및 MoE 포함)는 물론 추론, 에이전트 및 장기 컨텍스트 애플리케이션을 위한 프로덕션 추론을 지원할 수 있습니다. 고객은 OCI 내에서 워크로드, 성능 요구 사항 및 비용 목표에 최적화된 구글 TPU를 선택할 수 있다.

10년 이상 축적된 맞춤형 AI 실리콘 개발 경험을 바탕으로, 구글의 TPU 포트폴리오는 대규모 머신러닝 워크로드에 최적화된 특수 목적 컴퓨팅 성능을 제공한다.  구글의 8세대 TPU는 학습용 TPU 8t와 추론용 TPU 8i라는 두 가지 특수 아키텍처를 가졌다. TPU 8t는 최첨단 모델 개발 주기를 몇 개월에서 몇 주 단위로 단축하며, 이전 세대 대비 포드당 컴퓨팅 성능을 거의 3배 향상시켰다. 반면 TPU 8i는 여러 특수 에이전트의 반복적인 작업을 처리하도록 설계됐다.

OCI에서 사용할 수 있는 구글 TPU는 2027년에 출시될 예정이며, 고객 요구 사항을 충족하기 위해 수년에 걸쳐 점진적으로 확대된다.

구글의 AI 및 인프라 부문 수석 부사장 겸 최고 기술 책임자인 아민 바흐다트는 “차세대 AI는 다양한 컴퓨팅 성능을 요구할 것”이라며 “TPU는 고객에게 까다로운 학습 및 추론 워크로드에 최적화된 강력한 옵션을 제공한다”고 설명했다.

그는 “OCI에 구글 TPU를 도입함으로써 더 많은 기업이 이 기술에 접근하고 가장 복잡한 AI 애플리케이션을 구축하고 실행하는 데 있어 더 큰 유연성을 확보할 수 있게 될 것”이라고 덧붙였다.

오라클 클라우드 인프라(OCI) 사장인 마헤시 티아가라잔은 “AI 워크로드마다 필요한 컴퓨팅 요구 사항이 다르다”며 “구글 TPU를 OCI에 도입함으로써 고객은 하나의 클라우드에서 여러 주요 AI 컴퓨팅 아키텍처를 이용할 수 있게 됐다”고 말했다

그는 “이러한 선택권을 통해 고객은 각 AI 워크로드의 성능, 처리량 및 경제성에 맞는 최적의 인프라를 유연하게 선택할 수 있다”고 강조했다.

글. 바이라인네트워크
<라스베이거스(미국)=김우용 기자>yong2@byline.network