‘AI 레디’ 디지털리얼티 한국 데이터센터 가보니

데이터센터 공급업체 디지털리얼티가 서울 마포구 상암동에 위치한 ICN10 데이터센터를 5일 국내 언론에 공개했다.

2022년 1월 준공된 이 데이터센터는 연면적 1만5109제곱미터(약 4500평), 지상 11층 지하 2층, 최대 IT용량 12메가와트(MW)의 시설이다.

디지털리얼티는 ICN10을 특정 통신회사에 종속되지 않는 망중립 데이터센터라고 강조하며, 현재 7개의 국내 통신사를 비롯한 여러 글로벌 통신 기업과 클라우드 기업이 입주해 있다

디지털리얼티는 미국 텍사스주 오스틴에 본사를 둔 회사로, 고객 맞춤형 데이터센터를 서비스한다. 현재 전 세계에 300개 이상의 데이터센터를 운영 중이다. 50곳 이상의 도시에서 5000개 이상의 고객사에 상호 연결 서비스를 제공하고 있다.

이날 공개된 ICN10 데이터센터 내부는 서버 및 하드웨어의 입출고와 보안 검사 등의 기능을 담당하는 공간인 ‘로딩 도크(Loading Dock)’, 데이터센터와 외부 네트워크를 연결하는 ‘POP룸(Point of Presence Room)’, 정전 등 전력 불안정 상황에서도 서버와 네트워크 장비에 지속적으로 전력을 공급하기 위한 필수 시설인 ‘무정전전원공급장치실 (UPS Room)’, 서버, 스토리지, 네트워크 장비 등이 실제로 운영되는 ‘데이터 홀(Data Hall)’, 네트워크 및 IT 인프라의 운영을 24시간 모니터링하고 장애 발생 시 즉각 대응하는 컨트롤타워인 ‘네트워크 운영 센터(NOC)’ 등이다.

ICN10 데이터센터는 건물 내부로 포장재를 반입할 수 없기 때문에 로딩 도크에서 각종 설비의 포장을 완전히 제거해야 한다. 곧바로 서버 실로 옮기는 게 아니라 이어진 스테이징룸에서 간단한 구동 테스트와 습기 제거의 과정을 거쳐야 한다.

ICN10 데이터센터는 네트워크 장애를 방지하기 위해 2개의 맨홀을 통한 분산배치 이중화(N+1 Distributed Redundancy) 네트워크 경로를 구축했다. 서로 20m 이상 떨어진 주 네트워크 접속 지점(PPOP)과 보조 네트워크 접속 지점(SPOP)이 각각 독립된 맨홀을 통해 별도의 경로로 운영돼 하나의 네트워크 경로에 장애가 발생하더라도 다른 경로를 통해 정상적인 서비스 운영이 가능하다.

UPS도 총 4곳의 모듈형 분산배돼 4곳 중 하나에 장애가 발생하면 다른 3곳의 UPS 백업으로 무정전 확보가 가능하다. 화재에 대비해 UPS와 배터리를 별도의 공간으로 분리했다.

소현재 디지털리얼티코리아 커머셜세일즈 매니저

소현재 디지털리얼티 커머셜세일즈 매니저는 “인공지능(AI) 특히 생성형 AI 운영 환경에 대한 관심 때문에 데이터센터가 주목받고 있다”며 “AI를 위한 데이터센터는 크게 데이터레이크, AI 모델 학습, AI 추론 등의 인프라가 필요하고 각각 다른 요건을 갖고 있다”고 설명했다.

전통적인 인프라 수요인 데이터레이크는 5~15메가와트(MW) 용량에 5~15킬로와트(kW)의 랙 밀도를 필요로 한다. 일반적인 공기 냉각 방식을 사용해도 충분하다.

반면 현재 가장 많은 수요를 보이는 AI 모델 학습의 경우 5~100MW 용량과 35~100kW의 고집적의 랙  밀도를 요구한다. 냉각방식도 엄청난 발열 때문에 공냉식보다 액체 냉각을 필요로 한다.

앞으로 늘어날 수요인 AI 추론은 1~5MW 용량에 15~25kW 랙 밀도를 요구한다. 사용자에게 빠르게 콘텐츠 생성 결과를 보여줘야 하는 만큼 위치와 지연시간에 민감하다.

그는 “데이터센터 전력 수요는 점차 증가해서 2028년까지 AI 워크로드가 데이터센터 에너지 소비에서 차지하는 비중이 20% 이상에 이를 것”이라며 “랙 밀도에 따라 들어가는 전력량이 다른데, 공냉식뿐 아니라 수냉식도 적극 수용하기 위해 노력 중”이라고 밝혔다.

그는 “디지털리얼티가 가진 그간의 노하우, 모듈형 설계, 운영방식 등으로 최신 AI에 최적화된 인프라를 제공 중”이라며 “한국을 포함해 디지털리얼티의 세계 곳곳 데이터센터는 AI 레디 센터다”라고 강조했다.

투어를 담당한 디지털리얼티코리아 김용지 이사는 “AI 및 고성능 컴퓨팅(HPC) 워크로드의 확산에 따라 AI 레디 데이터센터는 전력, 냉각,  연결성 등 3가지 요소가 필수 요건”이라며 “기존의 일반 서버는 랙당 사용 전력량이 많아야 3~4kW지만 GPU 서버는 한대 당 10kW, 최신식은 130kW까지 요구하는 등 20배 이상의 전력을 소비한다”고 말했다.

그는 “또한 과거의 서버는 2개의 전력 공급원을 가지면 됐지만, GPU 서버는 최소 4개의 공급원을 가져야 운영할 수 있다”며 “디지털리얼티의 UPS 분산배치 설계는 4개를 연결해 고집적 GPU 서버를 수용할 수 있다”고 밝혔다.

최근 엔비디아 GPU를 활용하는 생성형 AI 환경은 많은 전력을 소비하고, 발열도 심하다. 전력 공급과 냉각의 수요는 전례 없는 수준이다. 엔비디아는 블랙웰 제품의 경우 액체냉각만 지원하고 있다. 대부분의 데이터센터는 공냉식으로 설계돼 최신의 엔비디아 블랙웰 환경을 구축하려면 시설을 수정해야 한다.

김 이사는 “GPU 서버 밑에 액침냉각판을 두고 거기에 물을 직접 공급하고 데워진 물을 빼내는 방식이 필요한데, 섭씨 25도의 용수를 흘려보내 45도로 뱉어낸다”며 “랙단위 서버를 위한 열교환장치가 있어서 물의 순환을 수행하게 해야 최신 GPU 서버를 수용할 수 있다”고 설명했다.

디지털리얼티는 고객 수요를 검토하면서 블랙웰 수용 방안을 검토 중이라고 밝혔다.

김용지 디지털리얼티코리아 이사

생성형 AI는 외부의 데이터와 내부의 데이터를 함께 사용하고, 여러 데이터센터 간 정보 송수신이 많다. 이는 빠르고 안정적인 네트워크 구성을 요한다.

김 이사는 “생성형 AI 학습과 추론은 퍼블릭 데이터를 많이 쓰고, 클라우드에 올려져 있는 AI를 쉽게 접근해야 하므로, 전용회선으로 빠른 속도와 보안성을 가진 연결성이 중요하다”며 “디지털리얼티의 서비스패브릭은 센터와 센터, 국가와 국가 간의 연결과 멀티 클라우드 서비스를 지원한다”고 말했다.

디지털리얼티 ICN10 데이터센터는 랙당 20kW를 공냉식으로 지원하고, 보조시설을 통해 랙당 100kW까지 지원한다. 99.999% 가용성을 보장하고, 무중단 유지보수를 제공한다. 데이터센터의 에너지 효율성을 가늠하는 지표인 PUE는 1.2다.

데이터홀의 높이는 5.6미터다. 전기 설비와 기계 설비 모두 이중화돼 있다. 비상발전기는 건물 전력 공급을 위한 디젤 발전기와 전산설비 전력 공급을 위한 터빈 발전기를 갖췄다. 공냉 설비는 한국지역난방공사로부터 용수를 받아 찬물로 에어컨을 가동하고 있다. 용수 공급 중단을 대비해 외부의 찬 공기로 물을 식힐 수 있는 공냉기를 갖췄다.

데이터센터는 각 기업의 핵심 정보를 보관하는 주요 자산이기 때문에 높은 물리적 보안 상태를 유지한다. 디지털리얼티 ICN10은 최소 5단계 보안시스템을 거쳐야 실제 서버실까지 들어갈 수 있다. 주요 시설의 경우 지문과 출입카드 모두 인증해야 한다.

김 이사는 “디지털리얼티는 기업이 플랫폼을 원활히 통합할 수 있도록 지원하고 서비스 제공업체의 플랫폼과 만날 수 있도록 해 전 세계를 연결하는 데이터 커뮤니티를 형성하는 역할을 하고 있다”며 “앞으로도 글로벌 데이터센터 플랫폼으로 국내 기업들의 해외 확장과 국외 기업들의 국내 서비스 확장을 지원할 것”이라고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network

[컨퍼런스 안내]

2025 이커머스 비즈니스 인사이트 : 생존을 넘어 성장으로

일시 : 2025년 2월 18일 오후 12:30~17:30
장소 : 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실 1

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.