A10 네트웍스, AI 모델·비용·접근권한 관리하는 ‘A10 AI 게이트웨이’ 출시

A10 네트웍스는 기업이 사용하는 인공지능(AI) 모델과 접근권한, 사용량, 비용을 한곳에서 관리하는 ‘A10 AI 게이트웨이(A10 AI Gateway)’를 출시했다고 22일 밝혔다.

A10 AI 게이트웨이는 AI 에이전트와 애플리케이션, 대규모언어모델(LLM)로 전달되는 요청과 적용 정책을 중앙에서 관리하는 플랫폼이다. 사용자·그룹별 접근 제어와 지능형 라우팅, AI 트래픽·비용 관리, 보안 제품 연동 등의 기능을 제공한다.

A10 네트웍스는 여러 AI 모델과 공급자를 함께 사용하는 기업이 늘면서 사용 현황과 비용, 보안정책을 통합 관리하기 어려워졌다고 설명했다. A10 AI 게이트웨이는 요청 내용과 사용 정책에 따라 적합한 AI 모델을 자동으로 선택하고 연결한다. AI 사용량과 비용도 중앙에서 확인할 수 있다.

사용자·그룹별 접근 제어 기능은 기업이 기존에 사용하는 로컬 디렉터리 시스템과 연동한다. 사용자나 부서별로 접근할 수 있는 AI 모델과 라우팅 정책을 다르게 설정할 수 있다. 예를 들어 엔지니어링팀과 재무팀에 서로 다른 모델과 사용정책을 적용하는 방식이다.

지능형 라우팅(Smart Routing)은 각 요청의 복잡성과 유형을 분석한다. 단순한 작업은 비용이 낮은 모델로 보내고 고도의 추론이 필요한 작업은 성능이 높은 모델로 연결한다.

비용 관리 기능은 요청별 비용을 달러 기준으로 실시간 추적한다. 모델·팀별 토큰 예산과 사용 한도를 설정하고 한도 초과 전 알림을 받을 수 있다. 키나 팀을 기준으로 분당 토큰 수(TPM)와 분당 요청 수(RPM)도 제한할 수 있다.

A10의 기존 AI 보안 제품과도 연동한다. 개발·운영 단계의 AI 보안을 담당하는 ‘트로이AI(TrojAI)’와 AI·LLM 특화 위협을 차단하는 ‘A10 AI 방화벽(A10 AI Firewall)’, 웹 애플리케이션·애플리케이션 프로그래밍 인터페이스(API)를 보호하는 ‘쓰랫엑스(ThreatX)’를 연결한다. AI 모델 배포 전 점검부터 운영 중 보호, 네트워크·API 보안까지 지원한다.

A10 AI 게이트웨이는 독립형 소프트웨어와 통합 하드웨어 형태로 제공된다. 온프레미스와 프라이빗 클라우드, 망분리 환경 등 기업 내부 환경에서 운영할 수 있다. A10 네트웍스는 기업이 AI 모델과 데이터, 정책에 대한 통제권을 유지할 수 있다는 점을 클라우드나 엣지 환경에 종속된 제품과의 차이로 제시했다.

드루파드 트리베디 A10 네트웍스 사장 겸 최고경영자는 “AI 활용은 기업이 이를 파악하고 거버넌스를 적용하거나 보안을 확보하는 속도보다 빠르게 확산되고 있다”며 “A10 AI 게이트웨이는 누가 어떤 모델에 접근할 수 있는지 관리하고 각각의 요청을 적절한 비용으로 가장 적합한 모델에 연결한다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network