클라우드플레어 “AI로 AI 공격 막는다”

보안 측면에서 바라본 생성형 AI… 핵심은 ‘API·피싱·제로트러스트’

“생성형 AI(인공지능)가 공격의 도구이자 방어의 수단이 되고 있습니다. 이제 AI와의 싸움은 필연입니다. 일부 다크웹에서는 이미 전쟁이 시작됐습니다.”

클라우드플레어 조성윤 채널기술대표는 6월 25일 서울 엘타워에서 <바이라인네트워크>가 개최한 ‘2025 사이버보안 기술 전략 컨퍼런스’에서 생성형 AI 환경에서의 보안 위협을 강조하며 이같이 말했다. 

이날 클라우드플레어는 ‘생성형 AI 위협을 가장 스마트하게 관리하는 제로트러스트란?‘이라는 주제로 발표를 진행했다. 이 기술대표는 이 자리에서 ▲AI 기반의 API 이상 탐지 ▲제로데이 공격 차단 ▲AI 기반 피싱 탐지 ▲행동 기반 사용자 위험 분석 ▲AI 방화벽과 게이트웨이를 통한 생성 AI
모델 보호 등에 대해 소개했다.

AI로 비정상 API 요청 탐지

우선 그는 “전 세계 인터넷 트래픽의 약 60%은 API를 통해 발생하고 있다”며 “API 보호의 핵심은 트래픽을 감시하고, 비정상적인 요청이나 패턴을 탐지하는 것”이라고 설명했다.

그는 API 보호를 위해 일반적이지 않은 시퀀스(Sequence) 차단과 속도 제한 정책 기반의 탐지·차단 기술을 활용해야 한다고 설명했다. API 요청 순서를 살펴보고  비정상적인 시퀀스는 걸러내야 한다는 의미다.

예를 들어, 사용자가 은행 앱에서 정상적으로 계좌 조회, 잔고 확인, 송금 실행의 순서를 따른다면 이는 일반적인 시퀀스로 간주되지만, 무작위로 송금 실행을 반복해서 요청하는 행위는 의심스러운 시퀀스로 분류될 수 있다. 머신러닝을 통해 AI가 정상적인 시퀀스를 학습한 후 비정상적인 시퀀스가 감지되면 알림을 주거나 바로 차단할 수 있다.

또 일정 속도를 넘어서거나 허용된 요청 횟수를 초과하는 API 요청도 감지하고 차단하는 것이 필요하다.

AI 기반 WAF로 제로데이 공격 실시간 방어

조 기술대표는 이어 제로데이(Zero-Day) 공격을 방어하는 AI 기반의 ‘웹 애플리케이션 방화벽(WAF)‘을 활용한 보안 자동화 체계를 소개했다.

그는 ”클라우드플레어의 WAF는 AI가 각종 웹 요청을 분석해 공격 여부를 실시간으로 판단하고 점수를 매기는 ‘어택 스코어(Attack Score)’ 기반 방식을 운영하고 있다”고 설명했다.

”어택 스코어는 WAF가 AI로 분석한 결과값으로 SQL 인젝션(데이터베이스 조작 시도), 리모트 코드 실행(원격 명령 수행) 등을 종합해 1~99점으로 점수를 매긴 후, 10점 이하에 해당하는 요청은 위험한 공격으로 판단해 즉시 차단한다”고 강조했다.

이어 ”WAF의 AI는 단순히 코드 패턴만 보는 것이 아니다. 요청이 사람인지 기계인지, 이전에 악성 트래픽이 발생한 IP인지 등을 학습한다. 머신러닝을 통해 AI의 판단 능력을 고도화하고 있다”며 “점수가 10 미만일 경우 차단하는 정책은 국내 대부분의 고객사가 그대로 사용 중”이라고 덧붙였다.

피싱 이메일, AI가 분석해 차단

조 기술대표는 AI 기반의 이메일 피싱 대응 전략도 소개했다. 이메일 피싱 방어에 최적화된 AI는 이메일 본문, 이미지, 링크, 사용자의 언어 습관 등 다양한 요소를 학습해 의심스러운 메일을 자동으로 분류·차단한다.

조 기술대표는 “AI는 평상시 메일 사용자의 어투, 감정, 단어 패턴까지 학습해 정상 여부를 판단하고 분석해 토큰 기반의 그래프로 만든다”며 “구조 분석, 자연어 이해(NLU), 감정 분석, 스레드 분석, 산업 모델링, 신뢰 그래프 생성 등의 순서로 AI가 메일의 정상 여부를 판단하고 알아서 조치를 내린다“고 설명했다.

AI로 제로트러스트 완성…‘보안 AI 비서, 클라우디’와 ‘AI SASE’

조 기술대표는 제로트러스트를 위한 AI 이니셔티브도 언급했다. 클라우드플레어의 AI 이니셔티브는 클라우디(Cloudy)라고 하는 ‘SASE(Secure Access Service Edge)용 AI‘와 ‘AI용 SASE‘로 구분된다. 클라우디는 ‘SASE 환경에서 사용하는 보안 AI 비서‘이며 AI용 SASE는 ‘기업이 사용하는 생성형 AI 모델 자체를 보호하는 보안 체계‘를 말한다.

조 기술대표는 클라우디에 대해 “일종의 AI 보안 비서 역할을 한다. 기존에는 보안 정책이 제대로 작동하는지 보기 위해 수많은 로그를 사람이 직접 검토했지만 이제는 AI 비서가 그 역할을 대신해준다”며 “해당 정책이 어떤 효과를 냈는지, 위험 사용자를 얼마나 식별했는지까지 정리해 보고서로 만들어준다”고 설명했다.

AI용 SASE는 생성형 AI 모델을 사용할 때, 외부 공격자나 내부 실수로부터 모델과 데이터를 보호하는 보안 체계다. 접근 통제, 응답 필터링, 민감 정보 탐지, 속도 제한 등 기능을 포함하며, ‘AI 방화벽’과 ‘AI 게이트웨이’가 구조 안에 포함된다.

조 기술대표는 “생성형 AI 모델은 같은 질문에도 매번 다른 응답을 하기 때문에 기존 보안 방식만으로는 대응이 어렵다”며 “AI 방화벽은 프롬프트 요청과 응답을 실시간으로 분석해 민감한 정보를 요청하거나 유출하려는 시도를 차단한다”고 설명했다.

이어 “AI 게이트웨이는 어떤 AI 모델을 얼마나 사용했고, 각 요청에서 비용이 얼마나 발생했는지를 한눈에 파악할 수 있게 도와주는 가시성 도구”라며 “중복 요청에 따른 과금도 캐싱(같은 요청은 결과를 미리 저장해 빠르게 다시 응답하는 방식)으로 줄일 수 있어 보안과 운영 효율성을 동시에 잡을 수 있다”고 말했다.

끝으로, 조 기술대표는 “클라우드플레어는 전 세계 330여개 거점(PoP)에 AI 연산용 GPU를 탑재해 생성형 AI 추론 속도를 극대화하고 있다”며 “데이터 저장소 R2, 워커스AI(Workers AI), 벡터라이즈(Vectorize), AI 게이트웨이 등으로 구성된 인프라를 통해 생성형 AI 활용 전 과정에서 가시성과 안전성, 비용 효율성을 동시에 확보할 수 있도록 지원하고 있다”고 강조했다.

글. 바이라인네트워크
<곽중희 기자> god8889@byline.network