에퀴닉스, 엔비디아·투게더AI와 기업용 AI 추론 서비스 공개

글로벌 디지털 인프라 기업 에퀴닉스는 엔비디아와 투게더 인공지능(AI)의 기술을 결합한 기업용 분산형 인공지능(AI) 추론 프로그램 ‘에퀴닉스 인퍼런스 익스체인지’를 3일 공개했다. 서비스는 에퀴닉스의 글로벌 인프라와 엔비디아의 기업용 인프라 설계, 투게더 AI의 추론 플랫폼을 결합하며 2027년 1분기부터 제공될 예정이다.

에퀴닉스는 이날 처음 개최한 고객·파트너 행사 ‘에퀴닉스 호라이즌’에서 프로그램을 발표했다. 엔비디아와 협력을 확대하고 투게더 AI와 새로운 협력 관계도 맺었다.

AI 모델과 서비스 제공업체, 지역이 늘면서 추론을 어느 위치에서 실행할지에 따라 성능과 비용, 데이터 관리 방식 등이 달라질 수 있다는 게 에퀴닉스 설명이다. 인퍼런스 익스체인지는 데이터와 사용자, 애플리케이션에 가까운 위치에서 AI 추론을 실행할 수 있도록 구성됐다.

이번 협력에는 엔비디아의 ‘엔터프라이즈 레퍼런스 아키텍처’와 투게더 AI의 추론 플랫폼이 활용된다. 투게더 AI 플랫폼은 200개 이상의 오픈소스 모델을 지원한다.

에퀴닉스의 데이터센터 인프라도 결합된다. ‘에퀴닉스 패브릭’을 통해 클라우드와 네트워크, AI 서비스 기업과 연결할 수도 있다.

기업용 AI 추론 환경은 클라우드와 모델, 서비스 제공업체, 지역 뿐 아니라 사용자와 데이터, 애플리케이션과 연결하는 과정까지 고려해야 한다. 에퀴닉스는 AI가 실험 단계를 넘어 실제 운영으로 확대되면서 이런 분산형 환경 관리 과정에서 운영 부담과 복잡성이 커질 수 있다고 설명했다.

에퀴닉스 인퍼런스 익스체인지는 세 가지 계층으로 구성된다. 에퀴닉스는 전력과 냉각, 사후 운영 관리 등 인프라 기반을 제공한다. 에퀴닉스 패브릭을 활용해 AI 추론에 필요한 클라우드·네트워크·AI 제공업체와 연결한다.

엔비디아는 전용 AI 인프라와 엔터프라이즈 레퍼런스 아키텍처를 제공한다. AI 팩토리의 처리량을 높이고 토큰당 비용을 최적화하는 데 초점을 맞췄다.

투게더 AI는 자원을 공유하는 멀티테넌트 방식과 전용 용량이 필요한 워크로드를 위한 단일테넌트 환경을 모두 지원하는 추론 플랫폼을 담당한다.

에퀴닉스 패브릭을 기반으로 추론 서비스 제공업체와 직접 연결하는 방식도 추진한다. 에퀴닉스는 이를 통해 첫 토큰 생성까지 걸리는 시간을 줄이고, 클라우드·네트워크·AI 기업으로 구성된 생태계와 연동할 수 있다고 밝혔다.

프로그램은 기업의 AI 추론 활용 방식에 따라 세 가지 시나리오를 제시한다. 첫 번째는 ‘메트로 엣지 추론(Metro edge inference)’이다. 사용자와 데이터에 가까운 위치에 추론 환경을 구축하려는 기업을 대상으로 한다. 에퀴닉스는 글로벌 인프라와 운영 환경을 활용해 낮은 지연시간을 구현할 수 있다고 설명했다.

두 번째는 ‘오픈 모델 마이그레이션’이다. 비용 절감과 특정 업체에 대한 종속을 줄이기 위해 폐쇄형 모델에서 오픈소스 모델로 전환하려는 기업을 지원한다. 기업이 사용 중인 에퀴닉스 패브릭을 통해 투게더 AI의 오픈 모델 플랫폼에 접속하는 방식이다.

세 번째는 ‘소버린 AI’다. 규제가 엄격한 산업이나 특정 국가·지역에서 사업하는 기업을 대상으로 한다. 데이터 관리와 주권 요건을 충족하는 위치에서 AI 워크로드를 실행해 데이터와 추론 처리 위치를 관리할 수 있도록 지원한다는 설명이다.

에퀴닉스는 전 세계 77개 주요 도시에 280개 이상의 데이터센터를 운영하고 있으며, 230개에 달하는 클라우드 온램프를 보유하고 있다고 밝혔다. 플랫폼에는 1만500개 이상의 기업 고객이 연결돼 있다. 글로벌 상위 10개 AI 모델 기업 가운데 8곳과 상위 10개 AI 클라우드 기업 가운데 9곳도 에퀴닉스와 협력하고 있다고 회사 측은 덧붙였다.

닉 패티언스(Nick Patience) 퓨처럼그룹(The Futurum Group) 부사장 겸 AI 플랫폼 프랙티스 리드는 “AI 워크로드가 다양한 서비스 기업과 데이터 출처, 환경으로 점차 분산됨에 따라 성능과 비용, 거버넌스가 핵심 전략 과제로 부상했다”며 “기업들은 추론이 실행되는 위치와 실제 운영 환경으로의 배포 속도에 한층 주목하고 있다”고 말했다. 이어 “운영의 유연성을 유지하면서 추론 배포 과정을 단순화해 주는 솔루션이 기업의 실질적인 비즈니스 성과를 좌우하는 핵심이 될 것”이라고 덧붙였다.

아데어 폭스-마틴(Adaire Fox-Martin) 에퀴닉스 CEO 겸 사장은 “AI가 가파른 속도로 기업 기술 환경을 바꾸고 있는 만큼 지금 어떤 인프라를 선택하느냐가 향후 수년간의 경쟁력을 결정지을 것”이라며 “엔비디아와의 오랜 관계를 바탕으로 현대 AI의 핵심인 가속 컴퓨팅 기반을 갖추는 한편, 투게더 AI와의 협력을 통해 기업별 확장성을 확보했다”고 말했다.

라즈 미르푸리(Raj Mirpuri) 엔비디아 글로벌 AI 클라우드 및 인프라 생태계 담당 부사장은 “에퀴닉스 인퍼런스 익스체인지는 AI 추론을 위한 글로벌 연결 구조로 활용될 수 있다”며 “엔비디아의 인프라 및 기술력에 투게더 AI의 오픈 모델 추론 플랫폼과 에퀴닉스의 글로벌 인프라 네트워크를 결합하면 기업들은 데이터와 애플리케이션, 고객이 있는 곳에 AI를 구현할 수 있는 분산형 기반을 마련할 수 있다”고 말했다.

한편 에퀴닉스 인퍼런스 익스체인지는 2027년 1분기부터 제공될 예정이다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network