가트너 “AI 확산으로 사이버 위협 증가”

가트너는 위협 신호와 조직의 대응 역량을 기준으로 위협 환경을 평가한 결과, 기존 보안 체계만으로 대응하기 어려운 위험이 늘고 있다고 9일 밝혔다. 이어 AI 확산에 따른 주요 사이버 위협으로 ▲딥페이크 ▲AI 애플리케이션 침해 ▲프롬프트 인젝션 ▲소프트웨어 공급망 공격을 선정했다.

딥페이크는 생성형 AI 발전으로 음성·영상·이미지 조작 기술의 정교함이 높아지면서 대표적인 위험 요소로 꼽혔다. 실시간 생성 기술이 확산하면서 신원 사칭과 사회공학적 공격 위험도 커지고 있다고 회사는 강조했다.

AI 애플리케이션을 노린 공격도 증가하는 추세다. 기업의 AI 도입이 확대되면서 공격 표면이 넓어졌다. 보안 취약점이 존재할 경우 민감 정보나 인증 정보가 유출될 수 있다.

프롬프트 인젝션과 소프트웨어 공급망 역시 주요 위협으로 제시됐다. 프롬프트 인젝션은 공격자가 악성 명령을 입력해 대규모 언어모델(LLM)의 동작을 왜곡하는 방식이다. 정보 유출이나 비인가 작업 수행으로 이어질 수 있고, 생성형 AI 개발 과정에서 오픈소스 활용이 늘어 관련 위험도 커질 수 있다고 가트너는 설명했다.

존 왓츠(John Watts) 가트너 VP 애널리스트는 “AI 도입이 확대되면서 위협 환경이 더욱 복잡해지고 있다”며 “변화하는 위협 신호를 지속적으로 파악할 필요가 있다”고 말했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network