오라클, 글로벌 AI 혁신 기업 OCI 사례 공개
오라클은 AI 모델 훈련 및 추론, 애플리케이션 배포에 오라클 클라우드 인프라스트럭처 AI 인프라스트럭처(OCI)와 OCI 슈퍼클러스터를 활용하는 글로벌 AI 기업 4곳의 사례를 17일 공개했다.
오라클에 따르면, 파이어웍스AI(Fireworks AI), 헤드라(Hedra), 누멘타(Numenta), 소니옥스(Soniox)를 비롯해 수백 개의 선도적인 AI 혁신 기업들이 AI 워크로드 실행 위치에 대한 제어, 컴퓨트 인스턴스 선택권, 확장성, 고성능, 비용 효율성 등의 이유로 OCI를 선택하고 있다.
산업 전반에서 AI 도입이 빠르게 확산됨에 따라, AI 기업들은 신속하고 경제적인 GPU 인스턴스 확장을 지원하는 안전하고 검증된 고가용성 클라우드 및 AI 인프라를 필요로 한다. AI 기업들은 OCI AI 인프라스트럭처를 통해 AI 훈련 및 추론, 디지털 트윈, 대규모 병렬 HPC 애플리케이션 등에 필요한 고성능 GPU 클러스터와 확장성 높은 컴퓨팅 파워에 접근할 수 있다.
파이어웍스 AI는 텍스트와 이미지, 오디오, 임베딩, 멀티모달 형식의 100개 이상의 최첨단 오픈 모델을 서비스하는 고성능 생성형 AI 애플리케이션 플랫폼으로, 개발자와 기업이 최적화된 생성형 AI 애플리케이션을 구축할 수 있도록 지원한다. 파이어웍스 AI는 엔비디아 호퍼 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스와 AMD MI300X GPU를 탑재한 OCI 컴퓨트를 활용해 플랫폼에서 매일 2조 건 이상의 추론 토큰을 처리하고 글로벌 서비스 확장을 지원한다.
린 치아오 파이어웍스 AI 공동 창립자 겸 CEO는 “개발자들은 지연 시간, 처리량 및 토큰당 비용에 최적화된 생성형 AI를 제품에 통합하기 위해 파이어웍스AI를 활용한다”며 “파이어웍스AI는 OCI AI 인프라스트럭처를 통해 개발자들이 원하는 초고속 응답 시간과 실제 생산 환경에 적용 가능한 수준의 안정성을 제공할 수 있다”고 밝혔다.
그는 “AI 워크로드를 효율적으로 처리하고 다운타임을 최소화하며, AI 애플리케이션이 대규모로 원활하게 실행되도록 지원하여 고객들이 기본 인프라에 대해 걱정하지 않고 혁신에 집중할 수 있도록 한다”고 덧붙였다.
헤드라는 AI 기반 영상 생성전문 회사로, 사용자가 생생한 캐릭터 영상을 제작할 수 있도록 지원한다. 헤드라는 엔비디아 호퍼 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스에서 생성형 이미지, 영상, 오디오를 위한 멀티모달 기반 모델을 배포함으로써 GPU 비용 절감, 훈련 속도 향상, 모델 반복 시간 단축에 성공했다.
마이클 링겔바흐 헤드라 창립자 겸 CEO는 “표현이 풍부한 캐릭터 영상을 대규모로 생성하려면 압도적인 컴퓨팅 성능과 효율적인 멀티모달 처리 기술이 필요하다”며 “OCI는 영상 및 음성, 이미지 데이터 전반에 걸쳐 모델 훈련과 추론을 처리하며, 실시간 캐릭터 렌더링에 필요한 빠른 처리 속도와 대규모 데이터셋의 높은 저장 용량 요구사항을 충족시킨다”고 설명했다.
그는 “OCI를 활용해 최신 모델인 캐릭터-3과 콘텐츠 제작 플랫폼인 헤드라 스튜디오를 신속하고 원활하게 출시할 수 있었다”고 강조했다.
누멘타는 딥러닝 시스템의 성능과 효율성을 극대화하는 데 집중하는 AI 전문 기술회사다. 누멘타는 엔비디아 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스를 활용함으로써 고성능의 검증된 훈련 인스턴스에 접근할 수 있게 되었으며, 더 빨라진 훈련 속도 및 증가한 학습 사이클을 경험했다.
댄 스티어 누멘타 CEO는 “OCI는 속도나 정확성을 희생하지 않으면서 AI의 한계를 넘어서기 위해 필요한 고성능 인프라와 강력한 운영 지원을 제공한다”며 “OCI를 통해 차세대 기술 개발 속도를 가속화하고, 이피션트 인텔리전스 구현에 의미 있는 진전을 이룰 수 있었다”고 밝혔다.
소니옥스는 오디오 및 음성 AI 분야 선도 회사로, 오디오, 음성, 언어 이해를 위한 기초 AI 모델을 개발하고 있다. 소니옥스는 OCI 상에서 다국어 음성 인식 AI 모델을 구동하며, 엔비디아 호퍼 GPU 기반 OCI 컴퓨트 베어메탈 인스턴스를 활용해 60개 언어의 음성을 실시간으로 정확하게 인식하고 이해할 수 있도록 학습했다.
클레멘 시모닉 소니옥스 창립자 겸 CEO는 “정확도과 속도, 비용 효율성을 모두 만족시키는 고성능 인프라는 우리의 성장에 필수적인 요소였다”며 “OCI는 혁신적인 AI 최신 기능을 제공하여 음성 인식과 오디오 이해의 한계 극복을 돕고, 배포 시간과 운영 비용을 크게 절감시켜 준다”고 밝혔다.
크리스 간돌포 오라클 OCI 및 AI 부문 수석 부사장은 “OCI는 다양한 규모의 훈련 및 추론 요구사항을 충족시켜 주며, AI 혁신 기업들이 선호하는 클라우드 플랫폼으로 빠르게 자리매김했다”며 “OCI AI 인프라스트럭처는 초고속 네트워크, 최적화된 스토리지, 최첨단 GPU를 제공하여 AI 기업의 차세대 혁신을 돕는다”고 강조했다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
