F5, AI 게이트웨이 강화…토큰 비용·에이전트 권한 한 곳서 관리

F5가 기업의 인공지능(AI) 모델 사용 비용과 AI 에이전트의 도구 접근 권한, 데이터 보호 정책을 한 곳에서 관리하는 ‘F5 AI 게이트웨이(F5 AI Gateway)’ 기능을 강화했다. F5는 27일 AI 게이트웨이를 ‘F5 AI 시큐리티 플랫폼(F5 AI Security Platform)’에 통합했다고 발표했다.

AI 게이트웨이는 기업에서 발생하는 AI 요청을 중앙에서 관리하는 제어 계층이다. 기업이 여러 AI 모델과 에이전트를 사용할 때 각각 다른 관리 도구를 두는 대신 공통 정책을 적용할 수 있도록 설계했다.

F5는 AI 게이트웨이를 ▲모델 게이트웨이(Model Gateway) ▲모델 컨텍스트 프로토콜 게이트웨이(MCP Gateway) ▲AI 가드레일(AI Guardrails) 등 세 기능으로 구성했다. 모델 게이트웨이는 AI 모델 접근과 비용을 관리하고 MCP 게이트웨이는 AI 에이전트가 사용할 수 있는 외부 도구를 통제한다. AI 가드레일은 모델에 입력하는 프롬프트와 모델이 생성하는 응답을 검사한다.

모델 컨텍스트 프로토콜(MCP)은 AI 모델이나 에이전트가 외부 데이터와 애플리케이션, 도구에 연결할 수 있도록 하는 방식이다. F5는 MCP 게이트웨이를 통해 에이전트가 권한을 받은 응용프로그램 인터페이스(API)와 데이터 소스, 검색증강생성(RAG) 시스템 등에만 접근하도록 설정할 수 있다고 설명했다.

에이전트의 활동도 기록한다. 어떤 에이전트가 누구를 대신해 어떤 리소스에 언제 접근했는지 확인할 수 있다. 승인된 MCP 서버를 한 곳에서 관리하는 레지스트리 기능도 제공한다.

AI 사용에 들어가는 비용은 토큰 단위로 관리한다. 모델 게이트웨이는 AI 모델 제공업체와 모델, 팀, 사용자별 토큰 사용량을 추적한다. 팀별 예산 한도를 설정할 수도 있다.

요청 특성에 따라 사용할 AI 모델을 선택하는 스마트 라우팅과 모델 등급화, 유사한 요청의 결과를 재사용하는 시맨틱 캐싱(Semantic Caching), 그래픽처리장치(GPU) 상태를 고려한 부하 분산 기능도 제공한다. F5는 이를 통해 애플리케이션을 변경하지 않고 토큰 지출을 최대 60%까지 줄일 수 있도록 설계했다고 설명했다.

F5가 자체 발간한 ‘2026 애플리케이션 전략 현황 보고서’에서는 조사 대상 조직의 77%가 가장 큰 비중을 차지하는 AI 활동으로 모델 학습이나 튜닝이 아닌 추론을 꼽았다. 조직당 관리하는 AI 모델은 평균 7개로 나타났다.

데이터 보호 기능도 포함했다. AI 가드레일은 프롬프트와 응답을 검사해 민감한 정보를 모델에 전달하기 전에 마스킹한다. 프롬프트 인젝션과 탈옥 시도를 차단하고 정책에 따라 요청을 평가할 수 없을 때 기본적으로 차단하는 기능도 지원한다.

F5 AI 게이트웨이는 F5 AI 시큐리티 플랫폼에서 설정한 AI 거버넌스와 사용 통제, 보안 테스트, 런타임 보호 정책을 실제 AI 트래픽에 적용하는 역할도 맡는다. 서비스형 소프트웨어(SaaS)와 하이브리드 SaaS, 하이브리드 멀티클라우드 환경에 구축할 수 있다. F5는 외부 네트워크와 분리된 에어갭(Air-gapped) 환경 지원도 계획하고 있다.

쿠날 아난드(Kunal Anand) F5 최고제품책임자(CPO)는 “AI 요청에는 비용과 보안, 거버넌스 측면의 영향이 뒤따르지만 대부분의 조직은 문제의 일부만 해결하는 개별 도구에 의존하고 있다”며 “AI 게이트웨이는 모델과 클라우드, 에이전트, 애플리케이션 전반의 AI를 하나의 지점에서 관리할 수 있도록 한다”고 말했다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network