래블업, 업스테이지 컨소시엄과 독파모 3차수 진출…GPU 인프라 1000장 이상 확대

래블업은 업스테이지 컨소시엄이 과학기술정보통신부(과기정통부) 주관 ‘독자 인공지능(AI) 파운데이션 모델 프로젝트(독파모)’ 3차수에 진출했으며, 학습 인프라 규모도 1000장 이상으로 확대된다고 19일 밝혔다.

업스테이지 컨소시엄은 단계별 평가를 거쳐 1차수부터 3차수까지 연속으로 수행 자격을 확보했다. 이 컨소시엄은 국내 기술로 글로벌 경쟁력을 갖춘 AI 파운데이션 모델 개발을 추진하는 국가 사업이다.

래블업은 AI 인프라 플랫폼 ‘백엔드닷AI(Backend.AI)’를 기반으로 컨소시엄의 학습 인프라를 운영해 왔다. 1차수에서는 500장 이상의 엔비디아 B200 GPU 클러스터를 운영하며 업스테이지의 ‘솔라 오픈(Solar Open) 100B’ 모델 학습을 지원했다.

2차수에서는 엔비디아 H100과 B200 등으로 구성된 1000장 규모 클러스터를 활용했다. 업스테이지의 ‘솔라 오픈 2 250B’ 모델 학습도 같은 인프라에서 진행됐다.

컨소시엄 참여 기업들은 모델 경량화와 평가 파이프라인 고도화에도 그래픽처리장치(GPU) 자원을 사용했다. 이어 산업별 실증 서비스 개발과 기초연구, 안전성 확보 작업에도 인프라가 활용됐다.

3차수에서는 GPU 클러스터 규모가 1,000장 이상으로 늘어난다. 래블업은 강화학습(RL)을 포함한 사후학습 비중이 커지는 흐름에 맞춰 백엔드닷AI의 슬럼(Slurm) 인터페이스 지원을 본격화할 계획이다. 슬럼은 대규모 컴퓨팅 환경에서 작업을 배분하고 GPU 등 컴퓨팅 자원을 관리하는 데 활용되는 시스템이다.

백엔드닷AI 위에서 슬럼 기반 작업 흐름을 사용할 수 있도록 지원해 기존 강화학습 파이프라인과의 호환성을 유지한다는 게 래블업 측 설명이다.

회사는 백엔드닷AI의 자원 격리와 스케줄링, 이기종 가속기 관리 기능을 활용할 수 있도록 플랫폼을 고도화하고 신경망처리장치(NPU) 호환성도 확대할 방침이다.

신정규 래블업 대표는 “500장에서 시작해 1000장 이상으로 확대된 클러스터를 3개 차수에 걸쳐 안정적으로 운영한 것은 백엔드닷AI의 대규모 학습 인프라 운영 역량을 실제 국책사업 환경에서 검증한 결과”라며 “3차수에서는 슬럼 인터페이스 지원과 NPU 호환성 확대를 통해 더 다양한 대규모 학습 및 추론 환경에 대응할 수 있도록 플랫폼을 고도화하겠다”고 말했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network