애저는 마이크로소프트 코파일럿을 어떻게 떠받치나

마이크로소프트는 인공지능(AI)에 최적화된 인프라로 애저 클라우드를 내세운다. 엔비디아의 블랙웰 컴퓨터와 자체 개발 프로세서, DPU 등을 갖추고 냉각 시스템을 새로 구성하고 잇다.

마이크로소프트는 19일 개최한 연례 컨퍼런스 ‘마이크로소프트 이그나이트 2024’에서 애저 인프라의 새로운 업데이트를 소개했다.

마이크로소프트는 더 많은 AI 훈련 및 추론 인프라를 확보하고, 더 빠른 워크로드 처리 성능을 제공하면서, 전력과 비용의 효율성을 개선하는 차원에서 인프라를 업데이트하고 있다.

암호화 및 서명 키 관리 전용 보안모듈 ‘HSM’

마이크로소프트는 맞춤형 실리콘으로 전체 인프라를 최적화하는데 집중해왔다. 작년 자체 설계한 AI 가속기 ‘애저 마이아’와 Arm 아키텍처 기반의 CPU ‘애저 코발트’를 출시했고, 올해는 특정 보안 기능 전용 칩을 선보였다.

마이크로소프트의 ‘애저 통합 하드웨어보안모듈(HSM)’은 자체 설계 보안 칩으로, 암호화 및 서명 키 관리를 전담하는 전용 보안 모듈이다. CPU가 키 관리 때문에 워크로드 성능을 저하시키는 문제를 해결하는 부하분산용 칩이다. 애저 통합 HSM은 내년부터 마이크로소프트 데이터센터의 모든 신규 서버에 설치될 예정이다.

이와 함께 CPU의 데이터 처리 요소를 전담하는 자체 설계 칩 ‘애저 부스트 DPU(Azure Boost DPU)’도 공개됐다. 이는 기존 서버의 여러 구성 요소를 단일 전용 실리콘으로 흡수할 수 있다. 향후 DPU 장착 서버는 기존 서버에 비해 3배 적은 전력과 4배 높은 성능으로 클라우드 스토리지 워크로드를 실행할 것으로 예상된다.

또한 AI 시스템에 차세대 액체 냉각 ‘사이드킥’ 랙(열교환기)을 도입했다. 이 장치는 NVIDIA의 GB200을 포함한 대규모 AI 시스템의 냉각을 지원하기 위해 애저 데이터센터에 도입되고 있다.

마이크로소프트는 냉각 외에도 전력을 효율적으로 공급하는 방법을 최적화하고 있다. 메타와 마이크로소프트는 새로운 분산형 전력 랙을 설계하고, AI 인프라에 적용했다. 각 분산형 전력 랙은 400볼트 DC 전원을 제공해 각 서버 랙에서 최대 35% 더 많은 AI 가속기를 사용할 수 있다. 이 냉각 및 전력 랙 사양은 오픈컴퓨트프로젝트에서 오픈소스로 제공된다.

엔비디아 블랙웰 서비스 내년 출시

마이크로소프트는 지난달 엔비디아 H200 GPU와 향상된 메모리 대역폭을 활용하는 ND H200 V5 가상 머신(VM) 시리즈 출시를 발표했다. 그리고 엔비디아 블랙웰 플랫폼도 제공할 예정이다.

마이크로소프트는 엔비디아 블랙웰 시스템을 비공개 미리보기로 제공하고 있다. AI 최적화 가상머신(VM)의 최신 제품으로 ‘애저 ND GB200 v6’가 출시될 예정으로, 엔비디아 GB200 NVL 72 랙 스케일 디자인과 퀀텀 인피니밴드 네트워킹을 결합해 수만개 블랙웰 GPU를 연결한 대규모 AI 슈퍼컴퓨팅 성능을 제공한다.

또한 AMD 에픽 9V64H 프로세서 기반의 최신 VM인 ‘애저 HBv5’를 내년 출시한다. 이 프로세서는 애저에서만 사용가능하며, 다양한 HPC 워크로드에서 최신 베어 메탈 및 클라우드 대안보다 최대 8배 빠르고 수명 주기가 끝날 때 온프레미스 서버보다 최대 35배 빠르다고 한다.

‘오라클 데이터베이스@애저’의 경우 마이크로소프트의 거버넌스 및 DLP 제품 ‘퍼뷰’에서 지원하게 됐다. 오라클 워크로드에서 데이터를 관리, 보안 및 추적하는 데 사용할 수 있는 포괄적인 데이터 거버넌스 및 규정 준수 기능을 제공한다.

오라클과 마이크로소프트는 오라클데이터베이스@애저에서 ‘오라클 엑사데이터 데이터베이스 서비스’를 제공할 계획이다. 오라클데이터베이스@애저는 총 9개 지역에서 사용할 수 있게 된다.

마이크로소프트는 애플리케이션을 클라우드로 이전하고 현대화하기 쉽도록 ‘애저 마이그레이트’로 애플리케이션의 애저 준비 상태를 평가할 수 있게 했다. 모든 종속성을 가진 애플리케이션을 이전하는데 도움을 주는 기술과 인사이트를 제공한다.

새로운 하이브리드 클라우드 ‘애저 로컬’

애저 아크를 기반으로 기업 사내 데이터센터에 설치되는 하이브리드 클라우드제품으로 ‘애저 로컬(Azure Local)’이 새롭게 출시된다. 애저의 클라우드 네이티브 및 AI 기술을 활용해 하이브리드, 멀티클라우드, 엣지 및 IoT 환경에서 운영할 수 있게 한다. 애저로 프라이빗 인프라의 프로비저닝과 관리를 할 수 있다. 애저 스택 기능을 하나의 통합 플랫폼으로 합친 것이다. 델, HPE, 레노버 등 마이크로소프트 검증 하드웨어에서 컨테이너, 서버 및 애저가상데스크톱 등을 실행할 수 있다. 데이터를 보호하기 위한 향상된 기본 보안 설정과 AI 추론을 위한 GPU 지원 서버와 같은 유연한 구성 옵션이 제공된다.

마이크로소프트는 최근 데이터센터용 운영체제의 최신 버전 ‘윈도우서버2025’를 출시했고, 데이터베이스 플랫폼인 ‘SQL서버2025’는 미리보기를 공개했다. SQL서버2025는 AI를 기본 제공하고, 벡터 검색을 지원해 AI 애플리케이션 개발 및 검색 증강 생성(RAG) 패턴을 간소화한다.

스콧 거스리 마이크로소프트 클라우드+AI 총괄부사장(EVP)은 “애저는 이제 세계의 컴퓨터로 자리잡고 있다”며 “지속 가능성과 혁신을 동시에 추구하며, 모든 산업이 클라우드와 AI를 통해 더 나은 결과를 얻을 수 있도록 지원할 것”이라고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network