래블업, GPU 비효율 잡고 코스닥 상장 도전

“수천개의 그래픽처리장치(GPU)를 연결해 대규모 인공지능(AI) 모델을 장기간 학습하는 데이터센터에서 하드웨어 고장이나 네트워크 지연 등의 장애가 일상적으로 발생합니다. 막대한 자본을 투자해 장비를 도입하고도 자원 활용률이 30% 수준에 머무는 비효율을 자체 개발한 하드웨어 분할 가상화와 자동 장애 복구 소프트웨어 기술로 해결했습니다.”

신정규 래블업(Lablup) 대표이사는 19일 영등포구 콘래드 서울 호텔에서 열린 상장 전 기업설명회(IPO) 기자간담회에서 자사 핵심 경쟁력을 이같이 강조했다.

이날 IPO는 코스닥 상장을 앞둔 AI 인프라 관리·운영 소프트웨어 기업 래블업이 향후 성장 전략을 시장에 공유하기 위해 마련됐다. 2015년 설립된 래블업은 AI 가속기 자원 관리부터 모델 개발·학습·추론까지 인프라 운영 전 과정을 단일 플랫폼 ‘백엔드닷에이아이’로 통합 제공한다.

신 대표는 기존 정보기술(IT) 인프라와 차별화되는 AI 시스템의 구조적 특성을 설명했다. 중앙처리장치(CPU)를 중심으로 작동하는 일반적인 서버 환경과 달리 AI 인프라는 핵심 연산 장치인 GPU를 중심으로 다른 장치들이 이를 지원하는 구조다. 대규모 모델을 학습할 때는 수백대의 서버에 장착된 수천개의 칩이 장시간 가동된다. 이 과정에서 막대한 전력 소모와 열이 발생하고, 대규모 시스템 내 일부 장치에서 장애가 발생하는 상황도 일상적으로 이어진다.

신 대표는 “일반적인 IT 인프라는 장애가 발생하지 않는 것이 보통이지만, AI 인프라는 항상 어딘가에서 장애가 발생하는 것이 일반적”이라며 “수천개의 GPU가 장시간 가동되면서 막대한 열과 전력이 발생하기 때문”이라고 말했다.

래블업은 이처럼 장애 발생 가능성이 높은 복잡한 하드웨어 환경의 제약을 자체 개발한 소프트웨어 기술로 해결한다. 장치에 문제가 발생하면 중앙 관리자의 지시를 기다리는 대신, 각 장치에 탑재된 오케스트레이션 엔진이 고장을 즉시 감지하고 자동으로 복구하도록 시스템을 구축했다. 자체 모델을 활용해 하드웨어 장애를 예측하고 신속하게 대응함으로써 전체 시스템의 안정성을 높였다.

물리적인 칩 하나를 논리적으로 분할해 여러 워크로드가 동시에 사용할 수 있도록 하는 자원 분할 가상화(fGPU) 기술도 선행 연구를 거쳐 자사 제품에 적용했다. 이를 통해 고가의 장비를 유휴 시간 없이 여러 사용자가 나눠 쓸 수 있도록 해 자원 활용의 비효율을 줄였다.

소프트웨어 기술의 효과는 실제 산업 현장에서도 확인됐다. 래블업은 고객사 한 곳의 단일 사이트에서 2000개 이상의 GPU를 안정적으로 운영한 실증 사례를 제시했다. 신 대표는 “한 고객사는 통합 플랫폼 도입 후 GPU 활용률이 기존 30% 수준에서 85%로 약 2.8배 높아지는 등 전반적인 자원 활용 효율이 개선됐다”며 “동시에 진행할 수 있는 연구 프로젝트 수도 기존 50개에서 200개 이상으로 늘었다”고 설명했다.

GPU 자원 배분이 원활해지면서 연구원들이 AI 모델을 실행하기 위해 기다려야 했던 시간도 2일에서 2시간 이내로 단축됐다. 신 대표는 “고가의 장비를 대규모로 추가 도입하지 않고도 업무 효율을 높였으며, 전체 하드웨어 도입 예산도 약 40% 절감했다”며 “도입 효과를 확인한 고객사는 초기 한 개 연구소에 적용했던 시스템을 현재 여러 연구소와 해외 거점으로 확대해 사용하고 있다”고 덧붙였다.

대규모 AI 모델 학습 과정에서도 래블업은 기술 효율성을 입증했다. 회사는 정부가 주관하는 ‘독자 AI 파운데이션 모델(독파모) 프로젝트’에 업스테이지 컨소시엄의 인프라 파트너로 참여했다. 당시 예상 데이터와 장비 규모를 기준으로 120일이 소요될 것으로 예상됐던 사전학습 기간을 66일로 단축했다. 자동 장애 복구 기능과 데이터 이동 최적화 기술을 결합해 전체 학습 시간을 40%가량 줄였다.

고성능 가속기인 엔비디아 ‘B200’ GPU 504개를 73일간 시스템 중단 없이 운영했다. 대규모 모델 학습 과정에서 발생할 수 있는 하드웨어 장애에 대응하고, 무중단 학습 환경을 지원하는 인프라 운영 역량을 입증한 사례라고 회사 측은 설명했다.

이 밖에도 다양한 협력 사례를 통해 상용화 실적을 쌓았다. KT클라우드와 협력해 자원 분할 가상화 기반 상용 추론 서비스를 세계 최초로 출시했다. 국내 시스템 반도체 설계 기업 리벨리온이 개발한 신경망처리장치(NPU)의 상용화도 지원하며 국산 AI 반도체와의 호환성을 검증했다고 회사 측은 밝혔다.

신 대표는 이날 급변하는 시장 환경에 대응하기 위한 향후 사업 방향도 제시했다. 그는 데이터센터 구축과 신규 칩 생산 등 물리적 하드웨어의 발전 속도가 빠르게 진화하는 AI 소프트웨어의 속도를 따라가기 어려워지면서, AI 시장이 연구와 연산 성능에 집중하던 과학·공학 단계를 넘어 막대한 자본이 경쟁력을 좌우하는 산업 단계에 진입했다고 진단했다.

그는 “실리콘과 콘크리트 기반 하드웨어의 느린 변화와 빠르게 발전하는 소프트웨어 사이에서 래블업 플랫폼이 완충재 역할을 한다”며 “고객이 현재 보유한 장비만으로도 인프라 운영 효율을 극대화할 수 있도록 지원한다”고 강조했다.

이어 특정 글로벌 빅테크 기업의 생태계에 종속되지 않는 ‘벤더 독립성’도 자사 플랫폼의 핵심 경쟁력으로 내세웠다. 래블업은 엔비디아, 인텔, AMD 등 해외 기업의 칩부터 국산 NPU까지 11종 이상의 가속기를 단일 운영 체계에서 지원한다.

단순히 다양한 반도체를 구동하는 데 그치지 않고, 각 장치의 상태를 모니터링해 작업별로 가장 높은 효율을 낼 수 있는 칩을 판단하고 자원을 자동으로 배분한다. 이를 통해 사용자는 특정 제조사에 종속되지 않고 여러 종류의 칩이 혼재된 클러스터 환경에서도 인프라를 통합 운영하고 최적의 자원을 활용할 수 있다고 회사는 밝혔다.

한편 래블업은 이번 상장을 통해 확보한 공모 자금을 하드웨어 인프라 확충과 글로벌 사업 확대에 투입해 본격적인 외형 성장에 나선다. 우선 다양한 하드웨어와의 호환성을 사전 검증할 수 있는 대규모 자체 테스트 팜을 구축해 제품 신뢰도를 높일 계획이다. 고가의 최신 장비를 직접 도입하고 다양한 장애 상황을 재현해 대응 체계를 점검한다는 구상이다. 미국과 영국, 싱가포르 등에서 확보한 현지 IT 유통 채널 파트너십을 활용해 성장세를 보이는 해외 네오클라우드 시장 공략에도 속도를 낼 예정이다.

래블업의 희망 공모가 밴드는 1만9000~2만2000원이며, 공모 예정 금액은 414억~480억원이다. 회사는 지난 13일부터 19일까지 기관투자자 대상 수요예측을 진행해 최종 공모가를 확정한다. 이어 오는 22일과 23일 일반 청약을 거쳐 다음달 3일 코스닥 시장에 상장할 계획을 밝혔다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network