팔로알토네트웍스가 제시한 AI 시대 애플리케이션 보호 방법 – ‘AI-SPM’과 ‘프리시전 AI’

생성형 인공지능(AI) 활용이 크게 확산되면서 관련 보안위협에 대한 우려가 커지고 있다. 많은 기업들이 개발하는 애플리케이션에 AI 기술을 활발히 접목하는 것은 물론, 사이버범죄자들도 AI 기술을 사이버공격에 이용하는 추세다.

보안전문가들은 AI 보안위협이 점차 커지고 있지만 아직까지 AI 기술을 활용하고 있는 기업들이 AI 위협에 크게 신경쓰지 않고 있다며 그 위험성을 경고하는 목소리를 최근 점점 더 키우고 있다.

팔로알토네트웍스코리아의 박인우 영업대표 역시 지난 4일 서울 양재동 엘타워에서 열린 ‘클라우드 보안과 제로트러스트 컨퍼런스 2024’ 발표자로 나와 “AI는 혁신과 더불어 위험에 대한 굉장한 파급력이 공존한다. 대부분의 기업들이 인공지능(AI) 채택하고 있지만 아직은 리스크(위험)를 크게 고려하지 않고 있다”고 지적했다.

박 대표는 먼저 “AI에 대한 관심과 사용량이 급격하게 증가하고 있고, 많은 기업들이 AI를 회사의 미래 원동력으로 보고 투자를 아끼지 않고 있다. 기업은 서비스형소프트웨어(SaaS) 애플리케이션에 AI 기술을 접목하고 있다. 사용자 경험을 위한 간단한 AI 기능부터 대중화된 애플리케이션 플랫폼에 통합하고 있다”고 AI가 확산되는 시장 분위기를 전하며 “이같은 AI 환경은 기존 애플리케이션 환경보다 위험에 대한 파급력이 크다. 신뢰성을 기반으로 깔고 있기 때문”이라고 말했다.

그에 따르면, 최근 신뢰하는 오픈소스를 점유해 애플리케이션 신뢰하는 오픈소스를 점유해 기업을 대표하는 중요한 애플리케이션을 노리는 공급망 공격들이 증가하고 있다. 7만7000명의 개인정보가 유출된 우버, 900만명의 고객정보가 유출된 메디뱅크, 2억2500만건의 아마존 프라임 비디오 데이터베이스 기록 유출 사고 등이 대표적 사례다.

박 대표는 “AI는 클라우드 애플리케이션 공격을 더 복잡하게 만든다. 공격자도 AI를 사용하기 때문이다. 공격이 더 쉬워지고 자동화돼 많은 대상을 여러 취약점을 가지고 동시에 공격할 수 있다. 아직 클라우드 보안과 AI에 대한 보호 체계가 수립되지 않은 고객들이 많은데, 런 기업들을 타겟으로 공격은 지금도 계속 시도되고 있다”고 설명했다.

이어 “공격자들은 다크웹 AI, 웜GPT와 같이 안좋은 의도로 AI를 훈련시키고 학습시킨다. 그리고 AI를 사용해서 공격에 활용한다”라면서 “공격 도구의 제작 시간이나 데이터 유출까지의 시간, 만들어내는 취약점의 수가 급격하게 증가하고 있어 공격에 성공되는 시간이 단축되고 있다”고 덧붙였다.

CNAPP AI-SPM, AI 앱 보호 제공…위험요소 가시성 확보해 대응 지원

이같은 환경에 대한 보안 과제를 해결할 수 있는 방법으로 박 대표는 우선 클라우드 네이티브 애플리케이션 보호 플랫폼(CNAPP), 즉 플랫폼을 기반으로 전체 애플리케이션 생명주기를 계속 검증하고 보호하는 방안을 제안했다. CNAPP에는 다양한 보안 기능을 통합 제공하는데, 그 가운데 AI보안형상관리(AI-SPM)도 포함돼 있다는 게 그의 설명이다.

“AI-SPM은 의심스러운 빌링 블록으로부터 AI 앱을 보호한다. 전체 AI 에코시스템의 리소스를 검색하고 평가하고 위협을 식별한다. 그리고 위협에 대한 우선순위를 지정하고 조치할 수 있도록 지원한다. AI 에코시스템은 AI 애플리케이션, AI 모델 인프라스트럭처, AI 데이터, 이러한 리소스들을 기업이 현재 얼마나 사용하고 있는지 통계적인 수치로 보여준다. 또한 실제 거대언어모델(LLM)이 어떻게 동작하는지도 보여준다. 사용자의 프롬프트, 에이전트나 API 입력 데이터를 AI LLM 모델에서 처리한다. 이런 AI LLM 모델은 트레이닝 데이터, 추론 데이터같은 데이터셋을 참고해서 결론을 도출한다. AI 에코시스템 구성요소에는 다양한 취약점이 존재하고 있어 런타임 취약점이나 데이터 유출, 잘못 학습된 포이즈닝 공격같은 다양한 공격 위협들이 존재할 수 있다. 하나의 AI 서비스를 안전하게 운영하기 위해서는 이러한 위험요소를 쉽게 이해하고 대응할 수 있는 체계를 지원해야 한다.”

‘코드 투 클라우드’ 접근방식으로 앱 생명주기 전체 보호 필요

웹 애플리케이션 보호 가이드라인을 배포하는 비영리기관인 OWASP는 10대(Top10) LLM 애플리케이션 취약점 보안 가이드를 최근 발간했다. 프롬프트 인젝션, 안전하지 못한 출력 처리, 트레이닝 데이터 포이즈닝(중독), 모델 서비스 거부, 공급망 취약점, 민감한 정보 공개, 안전하지 못한 플러그인 디자인, 과도한 의존성, 모델 위협 등이 포함돼 있다.

“AI 처리 프로세싱은 데이터, 프롬프트, LLM, 결과(Result) 레벨, 그리고 운영되는 앱(App) 레벨이 있다. 데이터 레벨에서는 과도한 의존성과 공개된 쓰기처럼 잘못 학습된 데이터 포이즈닝 위협, 프롬프트 레벨에서는 프롬프트 인젝션과 공급망 취약점에 대한 위협이 있다. LLM 레벨에서는 안전하지 못한 플러그인같은 접근제어 위협이나 모델 서비스 거부 공격들이 사용될 수 있다. 리절트 레벨에서는 민감한 정보의 노출이나 독점 LLM 모델에 대한 무단 액세스, 모델 위협 등의 공격이 사용된다. 운영환경에서는 OWASP 웹과 API 톱10 위협에 대응해야 한다. 민감한 데이터, 과도한 데이터, 잘못된 설정, 민감한 데이터 노출 등으로 그동안 해온 대응 방법과 유사하다. 예방을 위해서는 결국 ‘코드 투 클라우드(Code to Cloud Platform)’ 접근방식, 즉 애플리케이션 전체 생명주기에 대한 보호체계 수립을 통해 안전한 애플리케이션을 제공해 서비스의 신뢰성을 확보할 수 있는 체계를 수립해야 한다.”

‘프리시전 AI’, 자연어로 간단하게 질문하면 보안 현황과 조치 방안 가이드 제공

팔로알토네트웍스는 AI 기반 보안 서비스를 제공한다. 박 대표는 이 서비스가 “AI를 활용해 공격 경로를 판단하고 보안 위험요소를 쉽게 찾을 수 있도록 도와주는 역할을 한다. 보안에 사고 영향 범위나 아니면 우선순위를 빠르게 대응해 이런 것들을 조치할 수 있도록 신속하게 대응할 수 있는 체계를 지원한다. AI 보안 서비스는 결국 건건이 처리하던 이벤트를 건건이 처리하는 방식이 아닌 최상위의 근본이 되는 조치 계획을 실행할 수 있도록 돕는다”고 강조했다. 상단의 문제 단 한 건에 대한 조치로 존재하는 다양한 보안 문제를 한꺼번에 해결할 수 있다는 얘기다.

이를 가능케하는 기술로 박 대표는 팔로알토네트웍스의 ‘프리시전(Precision) AI’를 지목했다. 그는 “긍정 답변과 부정 답변을 모두 전달하는 일반 AI 모델과 달리 프리시전 AI는 긍정 답변, 즉 올바른 답변만 제공할 수 있도록 학습하고 계속 꾸준하게 업데이트가 되고 있다. 이 AI는 올바른 답변만 제공하도록 딥러닝, 머신러닝을 사용하고 있다고 보면 된다”라면서 “올바른 데이터를 얻기 위해 가장 중요한 요소인 데이터는 전세계 고객사에서 발생하고 있는 이벤트와 글로벌 넘버원 보안 벤더인 팔로알토네트웍스의 위협 인텔리전스를 통해 하루 7.6페타바이트(PB)의 정보를 수집하고 있다. 이는 다른 보안벤더 대비 약 4배 이상의 데이터 수집량”이라고 설명했다.

AI가 애플리케이션을 보호하는 방법으로는 “사람의 언어인 자연어로 간단하게 질문만 하면 된다”고 말하며 “예를 들어 아침에 회사에 출근한 다음에 ‘오늘의 톱 리스크(top risk)가 뭐야?’라고 질문하면 최고로 위험성이 큰 리스크를 설명하고 해결 방법과 더불어 공격에 대한 간단한 설명과 조치 방안까지 가이드를 제공한다. 공급망 보안에서 어려운 취약점 관리도 간단하게 취약점을 보유한 자산을 물어보기만 하면 된다. 그 취약점이 코드 단계인지 빌드나 디플로이 단계인지, 아니면 운영 단계인지, 어떤 코드와 이미지 레지스트리 또는 어떠한 컨테이너와 호스트가 이 취약점을 보유하고 있는지 즉각 확인할 수 있다. 여러분이 해야하는 업무와 시간을 크게 단축시킬 수 있다”고 강조했다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network

[무료 웨비나] 디지털 전환 시대의 필수! AI기반 아이덴티티 보안의 모든 것

  •  2024년 7월 16일 (화) 14:00 ~ 15:30

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다