레드햇, ‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’ 발표

레드햇은 AI반도체 스타트업 리벨리온과 함께 ‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’를 11일 공개했다.

이 솔루션은 ‘레드햇 오픈시프트 AI’와 리벨리온의 에너지 효율적인 NPU, 고효율 추론 엔진인 vLLM을 결합해 검증된 풀스택 엔터프라이즈 AI 플랫폼을 제공한다.

협력은 AI 워크로드를 구동하는 아키텍처에서 더 많은 선택권과 옵션을 제공함으로써 전 세계 고객에게 ‘모든 모델, 모든 가속기, 모든 클라우드’를 제공하겠다는 레드햇의 목표를 지원한다.

기업들이 AI 이니셔티브를 실제 비즈니스 운영에 적용하면서 인프라 비용, 배포 복잡성, 보안이 강화된 유연한 환경의 필요성이 증대되고 있다. 기존 GPU 중심 환경만으로는 대규모 환경에서 요구되는 성능과 효율성을 충족하기 어려운 상황이다. 이번 솔루션은 이러한 과제를 해결하고 기업이 다양한 환경에서 AI 워크로드를 효율적으로 운영할 수 있도록 지원한다.

리벨리온의 NPU는 AI 추론에 최적화된 아키텍처로 설계되어 기존 GPU보다 높은 에너지 효율성을 제공하며, 서버·랙 단위에서 데이터센터의 구축 및 운영 비용을 효과적으로 낮춰준다. 또한 특화된 풀스택 소프트웨어와 주요 오픈소스 AI 프레임워크 지원을 통해 GPU와 동일한 수준의 편리한 개발 환경을 제공한다.

‘리벨리온 NPU 기반 레드햇 오픈시프트 AI’는 하드웨어부터 모델 서빙까지 모든 영역을 아우르는 검증된 풀스택 AI 추론 플랫폼을 제공한다. 리벨리온의 소프트웨어 스택은 ‘레드햇 오픈시프트 AI’에서 네이티브로 실행되어 오버헤드를 줄이고 배포를 가속화한다. 또한 레드햇 오픈시프트의 인증을 취득한 레벨리온 NPU 오퍼레이터는 온프레미스 및 멀티클라우드 환경에서 보다 원활한 통합과 신뢰할 수 있는 지원을 제공하여 기업의 데이터 주권 확보와 규제 준수를 지원한다.

양사의 공동 솔루션은 리벨리온의 랙 스케일 NPU 솔루션과 통합된 vLLM을 기반으로 높은 처리량·낮은 지연 시간·우수한 전력 효율을 제공하며, 대규모 언어 모델 및 다양한 AI 추론 워크로드를 안정적으로 운영할 수 있다.

레드햇의 플랫폼과 리벨리온의 하드웨어로 데이터를 온프레미스에 안전하게 유지하며 관련 규제 요구 사항을 충족한다. 레드햇의 통합 관리 플랫폼을 통해 NPU를 GPU처럼 손쉽게 운영할 수 있어 복잡성을 대폭 줄이고 AI 인프라 도입을 가속화한다.

코어에서 엣지까지 기업의 데이터가 위치한 곳 어디든 선형 확장을 통해 배포 가능하다.

브라이언 스티븐스 레드햇 AI 부문 수석부사장 겸 CTO는 “엔터프라이즈 AI의 미래는 단일 구조의 독점 스택을 넘어서는 아키텍처를 선택할 수 있어야 한다”며 “레드햇 오픈시프트 AI의 개방적이고 확장 가능한 역량을 리벨리온의 효율적인 NPU와 통합함으로써, 엔터프라이즈에 검증된 풀스택 대안을 제공한다”고 밝혔다.

박성현 리벨리온 대표는 “AI서빙과 추론이 본격화되며 기업들은 성능과 비용, 데이터 주권을 모두 만족시키는 실용적인 인프라를 필요로 하고 있다”며 “이번 협력으로 레드햇과 리벨리온은 AI 추론의 요소가 제각각이던 기존 방식 대신 하드웨어부터 모델서빙까지 오픈소스를 이용해 통합되고 검증된 추론 플랫폼을 제공한다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network