체크포인트 “악용된 생성형 AI, 보안 체계 흔든다”

체크포인트 소프트웨어 테크놀로지스(이하 체크포인트)는 인공지능(AI) 기반 사이버 위협과 대응 전략을 다룬 ‘AI 시큐리티 리포트(AI Security Report)’를 16일 발표했다.

이번 보고서는 생성형 AI와 대규모언어모델(LLM)을 활용한 사이버 범죄의 실태를 분석하고, 방어자가 공격자를 능가하기 위한 대응 방안을 담았다.

보고서에서 체크포인트는 “사이버 범죄자들의 AI 도입이 이미 위협 환경을 재편하고 있다”며 “단순한 외형이나 음성 유사성을 넘어서 사고와 행동까지 모방하는 AI 기반 복제본, 즉 ‘디지털 트윈’의 등장이 임박했다”고 경고했다.

보고서에 따르면, 현재 보안 실무자들이 직면한 AI 위협은 크게 네 가지다. 첫째는 AI 기반의 사칭·피싱 공격이다. AI로 생성된 이메일·음성·영상 등을 활용한 사칭은 기존 인증 체계를 무력화하며, 실제로 이탈리아 국방장관을 사칭한 오디오 피싱 사례도 발생했다.

둘째는 학습 데이터를 조작해 AI가 잘못된 정보를 반복하게 만드는 ‘데이터 포이즈닝(Data Poisoning)’이다. 예를 들어, 러시아 관련 챗봇이 33%의 허위 정보를 반복 응답한 사례는 내부 챗봇 도입 시 데이터 검증 체계의 중요성을 보여준다.

셋째는 AI 기반 악성코드 제작이다. AI는 분산 서비스 거부 공격(DDoS) 자동화, 악성코드 정교화, 자격증명 탈취 등을 가능하게 하며, ‘개버스 샵(Gabbers Shop)’ 같은 다크웹 도구는 탐지를 우회할 수 있는 수준으로 발전하고 있다.

넷째는 ‘프로드GPT(FraudGPT)’나 ‘웜GPT(WormGPT)’ 같은 AI 모델의 다크웹 상용화다. 공격자는 이를 이용해 피싱, 해킹, 보안 우회 공격을 자동화하고 있다. 이로 인해 기존 보안 솔루션만으로는 대응에 한계가 있다는 것이 체크포인트의 진단이다.

이에 대한 대응 전략으로 체크포인트는 ‘AI 인식 기반 보안 체계’를 제안했다. 여기에는 ▲AI 기반 위협 탐지 및 사냥(피싱·딥페이크 실시간 대응) ▲다중 인증 체계 강화(텍스트·음성·영상 통합) ▲AI 전술(TTPs) 식별 기반 위협 인텔리전스 체계 구축 등이 포함된다.

로템 핀켈슈타인 체크포인트 리서치 이사는 “AI 시대의 보안팀은 AI를 방어 체계에 통합해, 공격자의 속도에 발맞춰야 한다”며 “이번 보고서는 위험을 경고할 뿐 아니라 AI 환경을 안전하게 운영하기 위한 로드맵을 제시한다”고 말했다.

체크포인트는 현재 10만개 이상의 조직에 AI 기반 사이버 보안 솔루션을 제공하고 있으며, 자사 ‘인피니티 플랫폼(Infinity Platform)’은 클라우드·온프레미스·작업 공간 환경에서 통합 보안 관리를 지원하고 있다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network