F5, 엔비디아와 AI 가드레일 통합…운영 단계 보안 강화

F5는 ‘엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)’과 통합한 인공지능(AI) 보안 솔루션 ‘F5 AI 가드레일(F5 AI Guardrails)’을 공개했다고 6일 밝혔다.

F5 AI 가드레일은 실제 운영 단계에 들어간 AI 애플리케이션의 프롬프트와 대규모언어모델(LLM) 응답을 검사한다. 여러 AI 애플리케이션에 보안 정책을 중앙에서 적용하고 운영 현황을 확인하는 기능도 제공한다.

기업은 하이브리드 멀티클라우드 환경에서 여러 AI 모델과 프레임워크를 사용하면서 애플리케이션별로 다른 보안 정책을 적용하는 문제를 겪을 수 있다. 각 애플리케이션에 보안 기능을 따로 구현하면 AI 서비스가 늘어날 때마다 관리 대상도 증가한다.

이번 통합은 AI 프레임워크와 보안 정책 적용 기능을 분리했다. 기업은 엔비디아 네모 가드레일을 AI 안전 정책을 구성하는 프레임워크로 사용하고 F5 AI 가드레일을 통해 프롬프트와 응답을 검사할 수 있다.

보안 담당자는 AI 애플리케이션 코드를 수정하지 않고도 여러 애플리케이션에 같은 정책을 적용할 수 있다. 개발 조직은 AI 모델과 애플리케이션을 개발하고 보안 조직은 검사와 정책, 관리 기능을 별도로 운영하는 구조다.

F5 AI 가드레일은 프롬프트 인젝션과 개인식별정보(PII) 노출, 데이터 유출, 악성 출력 등을 탐지하고 완화하도록 지원한다. 프롬프트 인젝션은 공격자가 악의적인 명령을 입력해 AI가 기존 지시나 보안 정책을 따르지 않도록 유도하는 공격이다.

기업은 모델과 프레임워크, 사업 부문별 AI 애플리케이션의 동작을 한 화면에서 확인할 수 있다. 보안 조직은 이를 바탕으로 AI 트래픽을 모니터링하고 정책 적용 이력을 감사하며 위협에 대응할 수 있다.

F5는 엔비디아 AI 프레임워크 위에 별도의 보안 검사 계층을 구성했다고 설명했다. 기업은 보안 정책을 유지하면서 AI 모델을 바꾸거나 새로운 애플리케이션을 추가할 수 있다. 특정 LLM에 종속되지 않고 적용 범위를 확대할 수 있도록 설계했다.

쿠날 아난드 F5 최고제품책임자는 “기업에 부족한 것은 AI 애플리케이션이 아니라 애플리케이션 전반에 걸친 일관된 보안과 거버넌스”라며 “이번 통합으로 보안 조직은 다양한 환경에서 AI 트래픽을 검사하고 정책을 적용하며 AI 애플리케이션 거버넌스를 관리할 통합 지점을 확보할 수 있다”고 말했다.

애쉬 발가트 엔비디아 AI 네트워킹·보안 솔루션 선임 이사는 “엔비디아 네모 가드레일은 AI 애플리케이션에 안전·보안 정책을 적용하는 개방형 프레임워크를 제공한다”며 “F5 AI 가드레일과의 통합은 고객이 AI 에이전트를 운영 환경에 도입할 때 LLM 프롬프트와 응답을 보호할 수 있는 기능을 확대한다”고 말했다.

엔비디아 네모 가드레일과 통합한 F5 AI 가드레일은 현재 기업 고객을 대상으로 제공된다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network