생성형 AI가 빠르게 도입되면서 보안팀 앞에는 새로운 과제가 놓였습니다. 기존 클라우드·소프트웨어 보안 체계만으로는 AI 애플리케이션 특유의 공격 표면을 온전히 방어하기 어렵다는 것입니다.
데이터독이 발간한 이번 가이드는 생성형 AI 애플리케이션을 구성하는 세 가지 축 ▲AI 인프라 ▲AI 공급망 ▲AI 인터페이스를 각각 표적으로 삼는 공격 기법을 MITRE ATLAS 프레임워크에 대입해 분석했습니다.
잘못 설정된 IAM(자격 증명 및 액세스 관리) 권한을 노려 클라우드 LLM 서비스를 무단으로 탈취하는 이른바 ‘LLM 재킹(LLM-jacking)’, 오염된 학습 데이터나 악성 코드가 내장된 모델을 공개 저장소에 유포하는 공급망 공격, 프롬프트 인젝션으로 챗봇의 행동을 하이재킹하거나 민감 데이터를 유출시키는 인터페이스 공격까지, 보고서는 실제 레드팀 훈련과 침해 사례를 바탕으로 각 공격 경로를 구체적으로 짚었습니다.
아울러 자격 증명 관리, 취약점 스캐닝, 프롬프트 정화, 코드 서명 등 실무에서 바로 적용할 수 있는 탐지·완화 전략도 함께 제시했습니다.
목차
1부. AI 인프라 남용: 잘못 관리되는 자격 증명과 리소스로 인한 LLM 애플리케이션 노출
- AI 인프라를 표적으로 삼는 일반적인 공격 유형
- AI 남용으로 이어지는 리스크 탐지 및 최소화
- AI 인프라에 대한 위협 최소화
2부. 공급망 남용: 오염된 모델, 데이터, 타사 라이브러리로 인한 AI 시스템 훼손
- 공급망 내 AI 아티팩트를 표적으로 삼는 일반적인 공격 유형
- 공급망에 내재된 리스크 탐지 및 최소화
- 공급망 내 AI 아티팩트에 대한 위협 최소화
3부. AI 인터페이스 남용: 프롬프트 수준의 공격으로 LLM 애플리케이션을 악용하는 방식
- AI 인터페이스를 표적으로 삼는 일반적인 공격 유형
- 유해한 코드 삽입 및 실행
- 데이터 유출
- AI 인터페이스에 내재된 리스크 탐지 및 최소화
- 생성형 AI 애플리케이션이 남용되지 않도록 보호하기
