지코어 “엔비디아 H100 대량 확보, ‘AI 엣지’로 모델 개발 가속화 지원”

글로벌 퍼블릭 클라우드 및 엣지 컴퓨팅 기업 지코어(Gcore)가 인공지능(AI)을 활용한 머신러닝(ML) 추론을 지원하는 서비스형 AI 인프라스트럭처 ‘엣지 AI(Edge AI)‘를 발표했다. 엔비디아의 고성능 그래픽처리장치(GPU)를 다수 확보한 지코어는 다음달 한국에도 리전을 세워 우리나라 AI 모델 개발에 힘을 보탠다는 계획이다.

지코어는 21일 서울파이낸스센터에서 한국기자 대상 그룹인터뷰를 진행했다. 새로운 서비스를 소개하고 우리나라 시장 공략 방향을 알리는 자리다.

세바 베이너(Seva Vayner) 지코어 엣지 및 AI 클라우드 총괄 디렉터는 “2022년 처음으로 엔비디아의 A100과 H100을 사용한 AI 트레이닝 클러스터를 구축했다”며 “2024년에는 AI 추론 지원을 통해 글로벌 시장을 공략할 예정”이라고 밝혔다.

베이너 총괄은 우리나라의 AI에 대한 높은 관심과 글로벌 시장이 다수 진출해 있는 시장이 기회가 될 것으로 봤다. 자동차를 비롯해 삼성이나 LG 같은 가전 업계에도 다양한 AI 기술이 필요한 만큼 자사 솔루션이 힘을 발휘할 거란 기대다.

지코어 엣지 AI는 온프레미스 하드웨어를 쓰거나 AI 인프라를 처음부터 구축할 필요 없이 온디맨드 방식으로 머신 인텔리전스 컴퓨팅을 수행할 수 있는 서비스다. 특히 지코어는 엔비디아의 고성능 GPU인 H100을 1000개 이상 확보했다. AI 모델 개발에 필수적인 GPU를 다량으로 확보해 AI·ML 추론을 가속화하는 인프라를 구축할 수 있다는 게 베이너 총괄의 전언이다.

베이너 총괄은 “저지연 서비스를 통해 데이터셋을 효과적으로 트레이닝할 수 있다”고 설명했다. 전세계 160개 이상의 상호접속지점(POP·points of presence)을 구축하고 1만1000개 이상의 피어링 파트너를 보유해 가능한 일이다.

특히 사물인터넷(IoT), 자율주행차, 스마트 팩토리 등과 같이 현장과 AI컴퓨팅의 상호작용이 중요한 분야에서는 대량의 센서 데이터나 영상정보가 빠르게 데이터센터에 전송돼야 한다. 이때 지코어는 저지연 글로벌 네트워크를 통해 빠르고 안정적인 성능을 제공한다. AI 엣지를 통해 모델을 훈련한 뒤, 해당 모델을 엣지 AI 인프라의 엔드포인트에 손쉽게 배포할 수 있다.

베이너 총괄은 “엣지 AI는 신뢰할 수 있는 안전한 클라우드 기반 플랫폼으로서 자연어 처리를 위한 세계 최고 수준의 성능을 보장한다”며 “금융을 비롯해 의료, 제조, 과학 연구 등 다양한 분야의 비즈니스에 도움이 되도록 설계했다”고 밝혔다.

앞으로는 한국 리전을 통해서도 서비스를 더 효과적으로 활용할 수 있을 전망이다. 올해 2월 세워진 한국지사는 현재 다음달 개소를 목표로 한국 리전을 세울 데이터센터를 물색하는 중이다. 정현용 지코어 한국지사장은 “서울 인근 지역의 데이터센터 계약을 앞두고 있다”고 말했다.

한편 룩셈부르크에 본사를 둔 지코어는 아시아를 포함해 6개 대륙에 걸쳐 자체 글로벌 IT 인프라를 관리하고 있다. 전 세계 평균 응답 시간이 30밀리초(ms) 미만 수준으로 콘텐츠를 효과적으로 전달할 수 있는 엣지 클라우드 인프라를 제공한다. 또한 5G eSIM 플랫폼을 통해 전 세계에 특화망을 제공하고 있다. 로밍이나 SIM 카드 교체 없이도 5G 연결이 가능한 서비스를 제공한다.

베이너 총괄은 “고객과 가장 가까운 접점에서 엣지 인프라스트럭처를 제공한다는 게 가장 큰 장점”이라며 “유연하게 고객의 요구에 유연하게 맞춘 솔루션으로 시장을 공략하겠다”고 말했다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network