SC26 행사장 래블업 부스 조감도(출처=래블업)

래블업, 美 ‘SC26’서 AI 인프라 운영 기술 발표

래블업(대표 신정규)은 미국 시카고에서 개막하는 ‘슈퍼컴퓨팅 2026(SC26)’ 전시회에 참가해 글로벌 AI 반도체 기업들과 함께 차세대 AI 인프라 운영 기술을 선보인다고 17일 밝혔다.

SC26은 고성능컴퓨팅(HPC), 인공지능(AI), 네트워크, 스토리지 등 첨단 컴퓨팅 기술을 다루는 글로벌 행사로, 올해 전시회는 17일부터 19일까지 미국 시카고 맥코믹 플레이스에서 개최된다. 래블업은 4년 연속 참가해 올해에는 4630번 부스를 운영한다. 글로벌 AI 반도체 및 인프라 기업들과 기술 교류를 확대하고 AI 인프라 소프트웨어 기업으로서 글로벌 시장 내 입지를 강화할 계획이다.

래블업은 국내외 주요 기업·기관들이 참여하는 부스 기술 발표 프로그램 ‘Booth Talks(부스 기술 발표)’를 진행한다. 글로벌 반도체 기업 AMD·인텔·엔비디아, 리벨리온·퓨리오사AI·하이퍼엑셀, 인프라 파트너 AMAX·VAST Data, 그리고 미국 서던캘리포니아대학교(USC) 등 총 9개 기업·기관이 래블업 부스에서 발표에 나선다.

AMD와 엔비디아는 기술 발표에 참여하며, 인텔은 개방형 이종 컴퓨팅 환경에서 에이전틱 AI 인프라를 구축하는 방안을 공유한다. 국내 기업 리벨리온은 NPU 기반 대규모 AI 서비스 운영을, 퓨리오사AI는 자체 AI 가속기 ‘RNGD’와 Backend.AI를 결합한 LLM 운영 및 전력 효율화 사례를 발표한다. 하이퍼엑셀은 토큰 효율 중심의 AI 인프라 기술을 소개한다.

실제 고객의 운영 사례와 파트너사 발표도 소개한다. 미국 서던캘리포니아대학교(USC) 소속 BD Kim은 ‘Delivering AI Computing as a Service with Backend.AI for Academic Research(Backend.AI를 활용한 학술 연구용 AI 컴퓨팅 서비스 제공)’를 주제로 대학 연구자들에게 AI 컴퓨팅 자원을 서비스하는 실제 활용 사례를 발표한다. 한국과학기술연구원(KIST) CJLab이 Backend.AI Cloud를 활용해 Cas9 유전자 편집 메커니즘 연구를 가속화하고, 장소에 구애받지 않는 연구 환경을 확보한 사례도 소개한다. 파트너사인 AMAX는 온프레미스 AI 도입 방안을, VAST Data는 래블업과 함께 KV 캐시 최적화 방안을 공유한다.

래블업은 이번 행사에서 ‘You Built the Token Factory. Who Runs It?(토큰 팩토리를 구축했다면, 누가 운영할 것인가?)’을 주제로 ‘Token Factory(토큰 팩토리)’ 운영 방안을 발표한다. 토큰 팩토리는 AI 데이터센터를 AI 모델의 추론 결과물인 토큰을 생산하는 공장으로 바라보는 개념이다. ‘From GPU Cluster to Token Factory: Running LLM in an Air-Gapped Financial Network(GPU 클러스터에서 토큰 팩토리로: 금융권 폐쇄망에서의 LLM 운영)’ 발표에서는 폐쇄망 금융 네트워크에서의 LLM 운영 방안을 공유한다. 래블업은 AI 인프라 관리 플랫폼 ‘Backend.AI’로 서로 다른 AI 가속기와 컴퓨팅 자원을 하나의 환경에서 운영하고, ‘컨티넘 엔터프라이즈’로 AI 모델의 요청 처리부터 토큰 사용량, 운영 정책, 비용 및 과금까지 통합 관리하는 방안을 소개한다. 이와 함께 클라우드 서버 없이 개인 PC에서 AI 모델을 직접 구동하는 데스크탑 애플리케이션 ‘AI:GO’와 AI 인프라 전반의 ‘풀스택 옵저버빌리티’ 기술도 선보인다.

이 밖에도 기존 고성능컴퓨팅(HPC) 작업 관리 도구인 Slurm 명령어를 그대로 활용하면서 Backend.AI의 컨테이너 환경에서 작업을 실행할 수 있는 ‘Slurm Frontend’를 선보인다. 하드웨어 기반 신뢰실행환경(TEE)에서 민감한 데이터와 AI 모델을 보호하는 ‘Confidential AI’ 기술도 소개한다.

래블업 신정규 대표이사는 “AI 인프라가 다양한 반도체와 컴퓨팅 환경으로 확장되면서 이를 효율적으로 통합하고 운영하는 소프트웨어의 중요성이 커지고 있다”며 “다양한 AI 반도체 기술이 한자리에 모이는 이번 SC26을 통해 Backend.AI의 확장성과 통합 운영 전략을 알리고, 토큰 생산과 운영 효율을 중심으로 진화하는 AI 인프라 시장에 적극 대응해 나가겠다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network

일간 바이라인 구독하기

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.