래블업, 오픈소스 추론 엔진 ‘Mlxcel’의 AMD 지원 발표

래블업(대표 신정규)은 지난 4일 서울에서 개최된 ‘AMD Advancing AI Korea’에서 통합 메모리 아키텍처(UMA) 환경에서 오픈소스 AI 추론 엔진 ‘MLxcel’의 AMD 플랫폼 공식 지원을 발표했다.

MLxcel은 애플실리콘, 엔비디아 CUDA에 이어 AMD ROCm까지 지원하는 멀티벤더 오픈소스 추론 엔진으로 자리매김하게 됐다.

MLxcel은 CPU와 GPU가 메모리를 공유하는 통합 메모리 아키텍처에서 가장 빠른 수준의 추론 성능을 목표로 설계된 차세대 오픈소스 추론 엔진이다. 가벼운 런타임 위에서 멀티모달 추론과 실서비스용 추론 서빙을 동시에 지원하며, 연구용 최적화에 그치지 않고 실제 프로덕션 배포로 이어진다는 점이 핵심 차별화 요소다. 래블업은 2026년 5월 애플실리콘 특화 버전의 MLxcel을 오픈소스로 공개하며 ‘애플 맥북에서 가장 빠른AI 추론 엔진’으로 주목받은 이후, 지원 하드웨어를 지속 확대해왔다. 이번 AMD 플랫폼 지원 공식화는 MLxcel의 멀티벤더 로드맵을 완성하는 단계다.

신정규 대표는 이날 발표에서 AMD Strix Halo 환경에서의 대규모 언어 모델(LLM) 및 비전 언어 모델(VLM) 추론 최적화 성과를 공유했다. 메모리 대역폭 병목에 대응하는 하드웨어 특성 기반 실행 설계, 연속 배칭(Continuous Batching)·투기적 디코딩(Speculative Decoding) 등 산업 최신 추론 가속 기법이 종합적으로 적용됐으며, 이를 통해 동일 하드웨어에서 범용 오픈소스 엔진 대비 월등한 처리량·지연시간 성능을 확보했다는 설명이다.

래블업은 엔비디아 DGX-레디 소프트웨어 파트너이면서, AMD와 인텔의 GPU, 퓨리오사AI, 리벨리온 등의 국산 NPU를 포함한 폭넓은 가속기 포트폴리오를 Backend.AI 플랫폼에 통합해왔다. MLxcel의 이번 확장은 동일한 멀티벤더 철학을 오픈소스 추론 엔진 레이어까지 넓힌 결과다.

신정규 대표는 이날 강연에서 “MLxcel은 통합 메모리 환경에서 최고 수준의 추론 성능을 목표로 개발됐다”며 “AI 추론 환경이 데이터센터, 에지, AI PC로 빠르게 확산되는 가운데 하드웨어에 독립적인 오픈소스 추론 플랫폼의 가치는 더 커질 것”이라고 말했다.

그는 “오픈소스 커뮤니티와의 협력을 통해 AI 인프라의 이식성, 선택권, 속도를 계속 확대해 나가겠다”고 덧붙였다.

래블업은 Backend.AI 플랫폼을 통해 엔비디아, AMD, 인텔 등의 GPU와 국산 NPU 등 다양한 가속기 환경을 지원해 왔다. 회사는 11월3일 코스닥 시장에 상장했으며, 국내외 120여 고객사에 Backend.AI 플랫폼을 공급하고 있다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network