아카마이, 엔비디아와 손잡고 ‘인퍼런스 클라우드’ 공개…코어·엣지까지 AI 혁신 가속

아카마이테크놀로지스코리아(대표 이경준)는 엔비디아와 협력해 코어 데이터센터부터 인터넷 엣지까지 인공지능(AI) 추론 기능을 확장하는 플랫폼 ‘아카마이 인퍼런스 클라우드(Akamai Inference Cloud)’를 공식 공개했다고 29일 밝혔다.

이번 신제품은 AI 활용의 방식과 영역을 재정의하는 플랫폼으로, 사용자와 디바이스에 가까운 엣지 환경에서 지능적이고 에이전틱한 AI 추론을 수행할 수 있도록 설계됐다. 전 세계적 규모로 저지연·실시간 AI 처리를 지원하며, 아카마이는 여기에 엔비디아 블랙웰 AI 인프라를 결합해 가속 컴퓨팅 역량을 한층 강화했다.

아카마이 인퍼런스 클라우드는 사용자 경험과 스마트 에이전트, 실시간 의사결정 시스템을 포함한 차세대 AI 애플리케이션의 기반이 된다. AI 추론이 사용자 가까운 지점에서 수행되어야 즉각적인 응답성과 효율적 리퀘스트 라우팅이 가능하다는 점에 착안해, 아카마이는 전 세계에 분산된 4200개 이상의 엣지 노드와 자체 클라우드 컴퓨팅 인프라를 통해 글로벌 확장성과 안정성을 동시에 확보했다.

톰 레이튼 아카마이 CEO 겸 공동 창립자는 “차세대 AI는 인터넷이 오늘날의 글로벌 플랫폼으로 성장할 수 있었던 것과 같은 사용자 근접성을 요구한다”며 “엔비디아와의 협력을 통해 AI 추론 성능과 안전성을 동시에 확보하고, 전 세계 수천 지점에서 신속하고 지능적인 의사결정을 가능하게 할 것”이라고 말했다.

젠슨 황 엔비디아 CEO 역시 “AI 추론은 이제 가장 컴퓨팅 집약적인 단계가 되었고 전 지구적 규모의 실시간 추론이 필수적인 시대가 됐다”며 “엔비디아와 아카마이는 협력을 통해 더 빠르고 확장 가능한 생성형 AI 생태계를 구축하고 있다”고 밝혔다.

아카마이 인퍼런스 클라우드는 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU, NVIDIA BlueField-3 DPU, NVIDIA AI 엔터프라이즈 소프트웨어가 탑재된 서버를 기반으로 한다. 아카마이는 향후 최신 블루필드-4 DPU를 포함한 엔비디아의 최신 기술을 통합해 AI 추론 워크로드의 속도를 높이고, 코어에서 엣지까지의 보안을 강화할 계획이다.

또한 이 플랫폼은 ‘AI 팩토리’를 엣지로 확장해 데이터 수집부터 지능 생성까지의 AI 라이프사이클을 전 과정에서 조율한다. 사용자의 위치와 행동에 따라 즉각적으로 적응하는 스마트 에이전트를 구현하며, 사기 탐지, 결제 보안, 산업용 자동화 등 빠른 판단이 필요한 분야에 즉시 적용할 수 있다.

특히 자율주행 차량, 산업용 로봇, 스마트시티 등 피지컬 AI 분야에서도 밀리초 단위의 실시간 의사결정을 지원하도록 설계돼, 안전한 인간-기계 협력 환경을 구현할 수 있을 것으로 기대된다.

아카마이는 현재 전 세계 20개 지역에서 인퍼런스 클라우드 서비스를 시작했으며, 향후 서비스 지역을 점진적으로 확대할 계획이다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network