아카마이, AI 추론·에이전트 실행 환경 출시

아카마이테크놀로지스(한국 대표 이경준)는 인공지능(AI) 모델의 추론과 AI 에이전트의 코드 실행을 지원하는 ‘아카마이 인퍼런스(Akamai Inference)’와 ‘아카마이 에이전트 샌드박스(Akamai Agent Sandbox)’를 출시했다고 29일 밝혔다. 두 서비스는 현재 베타 버전으로 제공된다.

아카마이 인퍼런스는 기업이 직접 AI 모델 실행 인프라를 관리하지 않고도 AI 모델을 사용할 수 있도록 지원하는 서비스다. AI 추론은 학습을 마친 모델이 사용자의 질문이나 입력 데이터를 분석해 답변을 생성하는 과정을 뜻한다.

이 서비스는 오픈AI와 호환되는 애플리케이션 프로그래밍 인터페이스(API)를 제공한다. 기업은 기존 AI 애플리케이션을 전면 수정하지 않고도 아카마이의 추론 환경으로 이전할 수 있다. 서버리스 방식의 사용량 기반 서비스와 전용 배포 방식 중 선택할 수 있다.

출시 시점에는 엔비디아 네모트론 3 울트라(NVIDIA Nemotron 3 Ultra), 오픈AI 지피티 OSS 120B(gpt-oss-120b), 구글 젬마 4(Gemma 4) 등 공개 가중치 모델 12종을 지원한다. 공개 가중치 모델은 학습된 모델의 가중치를 외부에 공개해 기업이나 개발자가 자체 환경에서 실행하거나 추가 학습할 수 있도록 한 AI 모델이다.

아카마이 에이전트 샌드박스는 AI 에이전트가 생성한 코드를 격리된 환경에서 실행하도록 지원하는 서비스다. AI 에이전트는 사용자의 지시에 따라 작업을 수행하며 필요에 따라 코드를 직접 작성하고 실행할 수 있다. 이 과정에서 해당 코드가 허용되지 않은 시스템이나 데이터에 접근하지 못하도록 통제하는 것이 중요하다.

아카마이는 에이전트를 자사 서버리스 실행 환경인 ‘아카마이 펑션(Akamai Functions)’에서 구동하고 에이전트가 생성한 코드는 별도의 격리 환경에서 실행하도록 설계했다.

이 서비스에는 웹어셈블리(WebAssembly) 기반 격리 기술이 적용됐다. 웹어셈블리는 프로그램을 격리된 실행 환경에서 구동할 수 있도록 지원하는 기술이다. 아카마이는 이를 활용해 코드가 사용할 수 있는 컴퓨팅 자원과 메모리, 외부 네트워크 연결, 시스템 기능의 범위를 제한한다.

아카마이 에이전트 샌드박스는 오픈소스 프레임워크 ‘스핀(Spin)’의 구성요소로 제공된다. 아카마이는 향후 에이전트가 접근할 수 있는 대상과 에이전트에 접근할 수 있는 대상을 관리하는 기능도 추가할 계획이다.

AI 인프라도 확대했다. 아카마이는 엔비디아 블랙웰 울트라(NVIDIA Blackwell Ultra) 그래픽처리장치(GPU) 클러스터를 추가했으며 2027년 엔비디아 베라 루빈(NVIDIA Vera Rubin) 플랫폼을 지원하기 위한 데이터센터 준비 작업을 진행하고 있다.

블랙웰 울트라 GPU 클러스터는 기업이 자체 AI 모델을 구축하거나 추가 학습하고 전용 환경에서 운영하는 데 활용된다. 아카마이는 기존 클라우드 스토리지와 네트워크, 보안 서비스를 연결해 AI 모델의 개발부터 추론, 에이전트 실행까지 지원한다는 계획이다.

아담 캐런(Adam Karon) 아카마이 클라우드 최고운영책임자(COO)는 “고객은 단일 플랫폼에서 AI를 구축, 실행, 보호하기를 원한다”며 “아카마이 인퍼런스와 아카마이 에이전트 샌드박스는 AI 인프라에 추론과 실행 계층을 추가하고 보안 포트폴리오를 통해 이를 보호한다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network