엔비디아의 GPU 클러스터 관리 역량 어디까지 갈까
엔비디아가 고성능 컴퓨팅(HPC)과 AI 워크로드 관리 시스템 ‘슬럼(Slurm)’의 개발사 스케드엠디(SchedMD)를 인수했다.
슬럼(Simple Linux Utility for Resource Management)은 HPC나 AI 클러스터에서 작업(Job)을 배치·스케줄링·자원관리하는 오픈소스 워크로드 매니저다. 노드, GPU, CPU 등의 자원 할당과 큐(파티션) 기반 잡 스케줄링, 대규모 병렬 작업 관리, 선점(preemption), 장애 복구, 공정성 정책 등의 기능을 제공한다.
HPC·AI 워크로드는 클러스터에서 병렬 작업을 실행하는 복잡한 연산을 포함하며, 이를 위한 컴퓨팅 자원의 대기열 관리, 스케줄링, 할당이 필수적이다. HPC·AI 클러스터가 점점 더 대규모화되고 고성능화됨에 따라, 효율적인 자원 활용이 더욱 중요해지고 있다.
슬럼은 확장성, 처리량, 복잡한 정책 관리 측면에서 업계 표준에 속한다. TOP500 슈퍼컴퓨터 목록의 상위 10개와 상위 100개 시스템 중 절반 이상에서 슬럼을 사용한다. 엔비디아 자체도 엔비디아 DGX 슈퍼파드(SuperPOD), 엔비디아 레퍼런스 아키텍처 등에서 슬럽 기반 예제와 가이드를 제공하는 등 사실상 표준으로 사용하고 있다.
엔비디아는 슬럼을 오픈소스, 벤더 중립 소프트웨어로 지속적으로 개발하고 배포하며, 다양한 하드웨어와 소프트웨어 환경에서 더 넓은 HPC·AI 커뮤니티가 활용할 수 있도록 지원할 예정이라고 강조했다.
대니 오블 스케드엠디 최고경영자(CEO)는 “세계에서 가장 까다로운 HPC와 AI 환경에서 슬럼이 수행하는 핵심적인 역할을 입증하는 결정적인 사례”라며 “가속 컴퓨팅 분야에 대한 엔비디아의 깊은 전문성과 투자는 슬럼의 개발을 한층 강화해 차세대 AI와 슈퍼컴퓨팅의 요구를 충족시키는 데 기여할 것이며, 슬럼은 앞으로도 오픈소스로 유지될 것”이라고 밝혔다.
엔비디아는 스케드엠디의 신규 시스템에 보다 빠르게 접근할 수 있도록 지원해, 엔비디아 가속 컴퓨팅 플랫폼 사용자가 전체 컴퓨팅 인프라 전반에서 워크로드를 최적화할 수 있도록 지원할 예정이다. 또한 다양한 하드웨어와 소프트웨어 생태계를 지원함으로써, 고객이 슬럼의 혁신적인 최신 기술을 적용한 이기종 클러스터를 운영할 수 있도록 도울 계획이다.
엔비디아는 클라우드 제공업체, 제조업체, AI 기업, 연구기관을 포함한 스케드엠디의 수백 개 고객사를 대상으로 슬럼에 대한 오픈소스 소프트웨어 지원과 교육, 개발을 지속적으로 제공할 계획이다. 이러한 고객사들은 자율주행, 헬스케어·생명과학, 에너지, 금융 서비스, 제조, 정부 등 다양한 산업 전반에 걸쳐 있다.
엔비디아는 스케드엠디와 함께 다양한 영역과 모든 규모에서 HPC와 AI 혁신을 촉진하기 위해 오픈소스 소프트웨어 생태계를 강화하고 있다.
엔비디아는 GPU 클러스터 관리를 위한 소프트웨어 스택에 오랜 기간 투자해왔다. 2022년 브라이트클러스터매니저(BCM) 개발사인 브라이트컴퓨팅을 인수했다. 브라이트컴퓨팅은 인수되기 전까지 1650만달러 투자금을 유치했으며 700개 이상의 기업을 고객으로 보유했었다. BCM은 HPC 시스템 관리에서 시작된 기술로, 하둡, 스파크, 오픈스택, 쿠버네티스, VM웨어 ESX 등의 클러스터 관리 도구로 확장됐다.
엔비디아는 브라이트컴퓨팅 인수 후 솔루션 명칭을 ‘베이스 커맨드 매니저(BCM)’로 변경하고, AI 엔터프라이즈 소프트웨어 스택에 통합했다. 현재는 엔비디아에서 제공하는 라이브러리, 프레임워크, 도구 등과 함께 GPU 당 연간 4500달러의 AI 엔터프라이즈 라이선스로 기술지원을 받으며 이용 가능하다. 또한, GPU 8개 이하의 클러스터를 관리할 경우 BCM을 무료로 이용할 수 있다. 이 경우 기술 지원을 제공받을 수 없다.
엔비디아는 BCM용 미션컨트롤을 제공하는데, 미션컨트롤은 엔비디아 AI 팩토리 환경을 구성하는 프레임워크와 도구, 모델 등의 배포를 자동화한다.
해당 미션컨트롤에 런에이아이(Run.ai) 기반 쿠버네티스와 도커 등도 포함된다. GPU 가상화를 통해 세밀하게 컴퓨팅 성능을 제공할 수 있다. 시스템 상태 점검, 시스템 실행 워크로드 전력 소비 최적화 등도 지원한다.
BCM이 워크로드의 상태를 점검하는 용도라면, 슬럼은 문제 해결 조치를 위한 도구다. BCM도 기본 워크로드 매니저로 슬럼을 채택했다.
엔비디아가 작년 인수한 런에이아이도 기본적인 개념은 워크로드 관리다. 런에이아이도 GPU를 워크로드에 할당하고, 큐와 우선순위를 설정하며, 자원 선점의 기능을 제공한다. 다만, 런에이아이는 추상화된 계층에서 AI 및 머신러닝 워크로드의 작업과 사용자를 하드웨어 자원에 최적화하는 플랫폼이다. GPU 오버서브스크립션, GPU 쪼개기 할당, GPU 타임 슬라이싱, 팀별 쿼타(quota) 등이 핵심 기능이다. 물리적인 하나의 GPU를 논리적으로 여러개로 쪼개고 다양한 작업에 할당할 수 있게 한다.
슬럼은 런에이아이와 달리 물리적인 GPU를 관리하는 기술이다. GPU를 쪼개지 않고 노드 단위로 스케줄링한다. 대규모 AI 학습과 HPC 활용에 적합하다.
런에이아이와 슬럼이 상당부분 겹치지만, 엔비디아는 두 기술을 모두 투자하고 있다. 기존의 HPC 고객이나 AI 기업이 런에이아이란 새 기술보다 슬럼이란 익숙한 기술을 유지하려는 경향을 보이기 때문이다.
슬럼과 런에이아이는 충분히 공존 가능한 기술이다. 런에이아이가 슬럼 기반의 추상화 계층으로서 AI 워크로드 최적화 플랫폼 역할을 할 수 있다. 슬럼의 인수는 AI 워크로드와 HPC 워크로드 모두에 대한 엔비디아 GPU 고객 수요를 충족시키려는 의도로도 읽힌다.
슬럼은 꽤 긴 역사를 자랑한다. 2001년 로렌스리버모어국립연구소에서 처음 시작된 대규모 리눅스 클러스터 관리 프로젝트이며, 리눅스네트웍스(Linux NetworX), 크레이, 델, 레노버 등 HPC 솔루션 기업에서 기본 옵션으로 채택하며 성장했다. 슬럼 프로젝트 창립자 중 모리스 제트와 대니 오블이 2010년 스케드엠디를 창업해 슬럼 상용 기술지원 서비스를 제공하면서 프로젝트 개발을 주도하기 시작했다. 슬럼은 2010년대 HPC의 주류로 자리잡았고, 지난 10년 사이 TOP500 슈퍼컴퓨터 목록에 등재된 슈퍼컴퓨터의 60%에서 슬럼이 사용됐다.
엔비디아의 스케드엠디 인수로 슬럼이 엔비디아 AI 소프트웨어 스택의 일부로 흡수될 수 있다는 우려가 제기된다. 엔비디아는 작년 10월 BCM 개별 판매를 중단했다. 엔비디아는 슬럼을 앞으로도 독립적인 오픈소스 소프트웨어로 남기겠다고 강조했지만, 소스코드의 버전별 기술지원을 분리하거나 일부 기능을 엔터프라이즈 라이선스로만 배포할 수 있다.
슬럼의 현재 오픈소스 라이선스는 보수적인 GNU GPL v2.0이다. 다만 슬럼 코드의 포크는 언제든 가능하다.
수년 사이 GPU 클러스터 통합 관리 도구 투자에 열을 올려온 엔비디아의 다음 행보가 주목된다. 이제 남은 영역은 AI 모델과 워크로드를 구동하는 쿠버네티스 계층이다. 엔비디아는 현재 자체적인 쿠버네티스 배포판을 따로 제공하지 않고 있다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
