래블업, SC24서 GPU·AI가속기 클러스터 관리 기능 강화 발표

래블업은 17일부터 23일까지 미국 애틀랜타에서 열리는 ‘슈퍼컴퓨팅 2024(SC24)’에 참가해 대규모 GPU 및 AI 가속기 관리 기능 업데이트를 발표한다고 18일 밝혔다.

SC24는 미국 컴퓨터 학회(ACM)와 IEEE 컴퓨터 학회가 1988년부터 매년 개최하는 슈퍼 컴퓨팅 학회로, 고성능 컴퓨팅(HPC), 네트워킹, 스토리지 및 분석 분야의 최신 연구 및 기술을 공유하는 자리다.

작년에 이어 두 번째로 해당 전시에 참가한 래블업은 올해 행사에서 자사 AI 인프라 플랫폼 백엔드닷AI(Backend.AI)의 최신 버전인 24.12를 공개한다. 백엔드닷AI 24.12 기반의 인퍼런스 솔루션 PALI를 다양한 AI 반도체에 최적화한 데모를 선보인다.

래블업은 2021년 엔비디아의 그레이스 CPU 공개 이후 곧바로 그레이스 아키텍처에 대응한 새로운 백엔드닷AI 버전을 공개했으며, GH200 그레이스호퍼 슈퍼칩에 대한 검증과 함께 엔비디아에서 올해 공개한 블랙웰 플랫폼 대응도 마쳤다.

인텔과 6개월 간 협업해 백엔드닷AI로 인텔 가우디 2 및 가우디 3 AI 가속기 플랫폼의 성능을 최대한 이끌어내도록 최적화했다. 래블업은 SC24를 통해 PALI 기반으로 인텔 가우디2와 가우디 3 AI 가속기 플랫폼 및 엔비디아 그레이스호퍼 슈퍼칩에서 AI 모델을 운영 및 개발하는 데모를 선보인다. 동시에 PALI로 대규모 인퍼런스 서비스를 운영, 최적화 및 관리하는 기반 기술을 다양한 부스 세션을 통해 파트너사들과 함께 소개한다.

신정규 대표는 “래블업은 컴퓨팅을 가속하는 회사로, 막대한 컴퓨팅을 요구하는 AI 분야는 슈퍼컴퓨팅과 긴밀하게 결합되고 있다”며 “AI, 가속 컴퓨팅, 스토리지, 네트워크, 양자컴퓨터 등 컴퓨팅의 최전선이 펼쳐지는 SC24에서 래블업의 앞선 기술력을 전세계와 나누겠다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network