뉴타닉스, 네오클라우드 위한 ‘뉴타닉스 에이전틱 AI’ 기능 발표

뉴타닉스는 ‘뉴타닉스 에이전틱 AI 솔루션’에 하반기 중 신규 기능을 추가할 예정이라고 9일 밝혔다. 차세대 AI 클라우드 서비스 제공업체인 네오클라우드가 AI 엔지니어 및 에이전틱 AI 개발자에게 안전하고 확장 가능한 AI 서비스를 제공할 수 있도록 지원한다는 내용이다.

유연한 온디맨드 서비스를 통해 GPU에 신속하게 접근할 수 있는 네오클라우드 제공업체가 부상하고 있다. 지금까지 AI 수요는 소수의 대형 기업이 주도하는 AI 훈련 워크로드에 집중돼 있었지만, AI의 다음 단계는 추론을 확장하고 다수의 기업 고객을 위해 에이전틱 AI 애플리케이션을 실제 운영 환경에서 실행하는 방향으로 전환될 것이다. 기업들은 엔터프라이즈급 보안과 성능, 제어, 개발자를 위한 셀프서비스 환경을 갖추면서도 AI 서비스의 토큰당 비용은 낮출 수 있는 플랫폼을 원한다. 네오클라우드 제공업체들은 GPU 인프라 제공업체를 넘어 완전한 AI 서비스 플랫폼으로 진화하고 있다.

뉴타닉스는 네오클라우드가 서비스형 GPU(GPUaaS), 서비스형 쿠버네티스(KaaS), 뉴타닉스 에이전틱 AI 기반의 엔터프라이즈급 AI 플랫폼 서비스까지 폭넓은 AI 서비스 카탈로그를 구축할 수 있도록 지원한다.

뉴타닉스 에이전틱 AI 솔루션은 고객의 에이전틱 AI 도입 가속화를 위해 설계된 완전한 소프트웨어 스택으로, 복잡성을 줄이고 성능과 보안을 최적화하며 토큰 비용을 절감하고 예측 가능하게 관리할 수 있도록 설계됐다. 여기에 새롭게 추가되는 멀티테넌트와 멀티서비스 관리 포털을 통해 네오클라우드 제공업체는 자사 GPU 인프라 기반으로 고부가가치 AI 서비스를 제공하고 소버린 AI 배포를 지원함으로써, 엔터프라이즈 사용자들은 데이터와 인프라, AI 운영 전반에 대한 통제력을 한층 강화할 수 있다.

뉴타닉스 에이전틱 AI 업데이트에는 뉴타닉스 서비스 프로바이더 센트럴을 통해 제공되는 차세대 멀티테넌시 프레임워크를 포함한다. 이 프레임워크는 네오클라우드 제공업체의 공유 AI 인프라를 안전하게 대규모로 운영할 수 있도록 설계됐다. 또한 강력한 테넌트 격리와 세분화된 리소스 관리 기능을 제공해 동일한 물리적 GPU 인프라에서 여러 기업을 동시에 수용하면서도 일관된 성능, 보안, 데이터 격리를 보장한다.

이러한 기능을 통해 네오클라우드 서비스 구축자들은 테넌트별로 GPU 및 컴퓨팅 리소스를 동적으로 할당하고 테넌트 맞춤형 보안 및 네트워킹 정책을 적용할 수 있다. 또한 GPUaaS와 KaaS, 서비스형 VM, 서비스형 노트북, 서비스형 벡터DB, 서비스형 모델(Models-aaS) 등 포괄적인 서비스 카탈로그를 통해 각 고객을 위한 독립적인 AI 환경을 제공할 수 있다.

새로운 멀티테넌시 기능을 보완하는 뉴타닉스 클라우드 매니저(NCM)의 개선 사항은 서비스 제공업체들이 AI 인프라를 서비스로 운영하고 수익을 창출할 수 있도록 지원한다. NCM은 AI 인프라 모니터링 기능을 제공하고 사용량 기반 계량(metering) 기능을 새롭게 추가해 GPU 사용량, API 호출 횟수 또는 모델 소비량을 기준으로 고객별 이용 현황을 추적하고 청구할 수 있게 한다.

이러한 기능들을 종합적으로 활용함으로써 서비스, 제공업체들은 단일 관리 인터페이스에서 용량 관리, 테넌트 사용 현황 모니터링, 분산형 AI 인프라를 원활하게 운영할 수 있다. 이를 통해 네오클라우드 서비스 구축자들은 운영 통제력을 유지하면서 확장 가능한 AI 서비스를 제공할 수 있다.

토마스 코넬리 뉴타닉스 제품 관리 부문 수석 부사장은 “기업들이 데이터 통제권을 유지하면서 AI를 활용하는 방법을 모색하면서 소버린 및 특화형 AI 클라우드에 대한 수요가 빠르게 증가하고 있다”며 “뉴타닉스 에이전틱 AI 솔루션은 안전한 멀티테넌트 환경과 AI 관리 포털을 갖춰 네오클라우드 제공업체들이 신뢰할 수 있는 지역 파트너로서 강력한 AI 역량을 원하는 기업 및 공공 기관에 첨단 고부가가치 AI 서비스를 신속하게 제공할 수 있도록 설계됐다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network