래블업, ITU AI 행사서 AI 인프라 운영 사례 발표

AI 인프라 플랫폼 기업 래블업(대표 신정규)은 UN 산하 국제전기통신연합(ITU)에서 주최한 ‘AI for Good Global Summit 2026’에서 대규모 AI 인프라 운영 사례를 발표했다고 15일 밝혔다.

래블업은 정보통신산업진흥원(NIPA)의 추천을 통해 올해 초부터 ITU와 정기 미팅을 진행해 왔으며, 이를 계기로 이번 서밋의 워크샵 발표 연사로 초청받았다.

AI for Good Global Summit은 ITU가 스위스 정부 및 50개 이상의 UN 기관과 공동으로 개최하는 AI 행사다. 제7회를 맞은 올해 행사는 지난 7일부터 10일까지 스위스 제네바 팔렉스포에서 열렸으며, 170개국에서 1만2000명 이상이 참가해 역대 최다 기록을 경신했다. AI 표준, AI 역량 보편화, AI 거버넌스를 3대 주제로 각국 정부, 기업, 학계, 국제기구 관계자들이 참여했다.

김준기 래블업 CTO는 행사 첫날인 7일 ITU-T SG13(미래 네트워크 및 신흥 네트워크 기술) 산하 워크샵 ‘The Future of AI Native Communication Networks’에서 15분간 세션 발표를 진행했다. SG13은 통신 네트워크와 AI 기술의 접목을 다루는 연구반으로, 이번 워크샵에서는 AI로 네트워크 운영을 고도화하는 ‘AI for Network’ 관점과 대규모 AI 워크로드를 수용하는 인프라로서 네트워크가 진화해야 하는 ‘Network for AI’ 관점을 함께 논의했다.

김 CTO는 이 자리에서 AI 인프라의 규모가 커질수록 GPU 단일 성능이 아닌, 하드웨어·소프트웨어·네트워크를 아우르는 전 계층 통합 최적화(cross-stack optimization)가 핵심 과제로 부상하고 있다는 메시지를 중심으로 발표했다. AI 모델 학습 규모가 수백 대 이상의 GPU 클러스터로 확대되면서, 개별 구성 요소의 성능뿐 아니라 스케줄링, 스토리지, 네트워크 구간까지 전체 스택을 통합적으로 설계하고 운영해야 실질적인 효율을 확보할 수 있다는 것이다.

실증 사례로 과학기술정보통신부 주관 ‘독자 AI 파운데이션 모델’ 프로젝트에서의 인프라 운영 경험이 공유됐다. 래블업은 업스테이지 컨소시엄의 인프라 파트너로서 NVIDIA B200 GPU 500대 이상 규모의 학습 클러스터를 Backend.AI 기반으로 운영하며, 장애 복구 시간 47% 단축, 학습 시간 손실 최소화 등의 성과를 거뒀다. 김 CTO는 이 과정에서 축적한 내결함성 스케줄링 전략, 장애 복구 기법 등 실무 엔지니어링 경험을 구체적으로 소개했다.

김 CTO는 서밋 기간 중 ‘Agentic AI: Architecture and Standards for Next-Generation AI Agents’, ‘Advancing AI in Networks’ 등 SG13 주관 워크샵에도 참석해 통신 네트워크 분야의 AI 에이전트 활용 동향과 표준화 논의를 파악했다. 이 자리에는 NTT, 차이나모바일, 오렌지텔레콤 등 글로벌 통신사들의 AI 표준화 활동 현황도 함께 공유됐다.

래블업은 이번 서밋을 계기로 ITU 및 현지에서 교류한 관계자들과 후속 협력을 이어갈 예정이다. AI 인프라 엔지니어링 분야에서 국제 표준화 활동에 기여할 수 있는 방안을 모색한다는 계획이다.

김준기 CTO는 “대규모 AI 학습 환경에서는 GPU 한 대의 성능보다 전체 스택을 어떻게 설계하고 운영하느냐가 실질적인 성능을 좌우한다”며 “이번 발표를 통해 실무 현장에서 검증된 인프라 엔지니어링 경험을 국제 표준화 논의의 맥락에서 공유할 수 있었다”고 밝혔다.

래블업의 Backend.AI는 엔비디아, AMD, 인텔 등 이기종 AI 반도체를 단일 플랫폼에서 통합 관리하는 AI 인프라 운영 플랫폼이다. 컨테이너 수준의 GPU 가상화 기술과 자체 개발 오케스트레이터를 통해 GPU 활용률을 극대화하고 인프라 운영 복잡성을 줄여준다. 래블업은 현재 아시아, 북미, EMEA 지역에서 Backend.AI를 공급하고 있다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network