오라클 클라우드로 몰리는 AI 기업들…시간 ·비용 부담↓

인공지능(AI) 기업들이 오라클 클라우드로 몰려들고 있다. 강력한 컴퓨팅 성능을 바탕으로 AI 개발을 위한 인프라로 최적화했기 때문이라는 게 회사의 설명이다.

오라클은 AI 혁신기업들이 오라클클라우드인프라스트럭처(OCI) AI와 OCI 슈퍼클러스터(Supercluster)를 활용해 생성AI 애플리케이션용 거대언어모델(LLM) 훈련 등 실제 서비스 환경에서 활용할 수 있는 AI의 개발과 배포를 지원한다고 27일 밝혔다.

오라클에 따르면 국내 업체인 트웰브랩스(Twelve Labs)를 비롯해 모달(Modal), 수노(Suno), 투게더 AI(Together AI) 등 수많은 AI 기업들이 대규모 AI 훈련과 추론을 위해 OCI AI 인프라를 활용하고 있다.

오라클에 따르면 AI 과련 수요가 급속도로 지속적으로 늘어나는 가운데, AI 기업들은그래픽처리장치(GPU) 인스턴스를 빠르게 확장해 주는 고성능 클라우드와 AI 인프라를 필요로 하고 있다.

OCI AI 인프라스트럭처를 통해 AI 기업들은 ▲머신러닝(ML) ▲이미지 처리 ▲모델 훈련 ▲추론 연산 ▲물리 기반 모델링 및 시뮬레이션 ▲대규모 병렬 고성능컴퓨팅(HPC) 애플리케이션을 위한 GPU 클러스터를 적극 활용한다.

그렉 파블릭(Greg Pavlik) 오라클 클라우드 인프라스트럭처 AI 및 데이터 관리 서비스 부문 수석 부사장은  “OCI는 다양한 AI 사용 사례에 대한 강력한 컴퓨팅 기능 및 상당한 비용 절감 이점을 제공한다”며 “AI 업계 리더들이 OCI를 가장 많이 선택하는 이유도 바로 이 때문”이라고 말했다.

서버리스 GPU 플랫폼 기업인 모달은 고객이 보다 신속하고 비용 효과적인 방식으로 추론 작업을 할 수 있도록 OCI 컴퓨트(OCI Compute) 베어메탈 인스턴스를 활용했다. 또한 개인 맞춤형 음악 생성 기업 수노는 독자적인 기계학습 모델을 훈련시키고, 차세대 생성형 음악 모델에 대한  수요를 지원하기 위해 OCI 슈퍼클러스터를 선택했다.

투게더 AI는 생성형 AI 모델의 추론 및 훈련을 위해 가장 빠른 속도의 클라우드 플랫폼을 제공하는 연구 중심 AI 기업이다. 투게더 AI는 강력한 성능을 비롯해 내장형 보안, 최상의 엔지니어링 지원 서비스 등을 이유로 OCI를 선택했다는 게 오라클의 설명이다.

우리나라 AI 스타트업도 OCI를 통해 기술 개발에 매진한다. 트웰브랩스는 멀티모달 비디오 이해를 위한 파운데이션 모델을 구축하는 회사다. 트웰브 랩스는 OCI 컴퓨트 베어메탈 GPU와 OCI가 제공하는 노드 간 고대역폭을 통해 대규모 AI 모델들을 고속으로 훈련시키고 있다.

이재성 트웰브랩스 창립자 겸 최고경영자(CEO)는 “OCI를 통해 우리의 AI 모델을 대규모로 훈련시킬 수 있게 됐다”며 “OCI는 비디오 이해를 더욱 고도화하기 위해 필요한 성능, 확장성, 클러스터 네트워킹을 제공하고, 동시에 AI 모델 배포에 드는 시간과 비용을 크게 줄여준다”고 설명했다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network