트렌드마이크로, 딥페이크·AI 기반 사이버 공격 차단 기술 발표
[무료 웨비나] 개발자를 위한 클라우드플레어를 소개합니다
◎ 일시 : 2025년 2월 6일 (목) 14:00 ~ 15:00
[무료 웨비나] 중동의 ICT 및 테크 기업 생태계 – 사우디 아라비아, UAE를 중심으로
◎ 일시 : 2025년 1월 23일 (목) 14:00 ~ 15:10
사이버보안 기업인 트렌드마이크로(지사장 김진광)은 빠르게 증가하는 인공지능(AI) 기반 공격과 사기 범죄 위협으로부터 모든 환경을 보호하는 딥페이크 및 AI 기반 사이버 공격 차단 기술을 31일 발표했다.
이 기술은 트렌드마이크로의 트렌드 비전 원 엔터프라이즈 통합 보안 플랫폼과 개인 사용자용 보안 제품에 반영될 예정이다. 그 첫번째로 개인 사용자용 솔루션인 ‘딥페이크 인스펙터(Deepfake Inspector)’를 무료로 공개한다.
트렌드마이크로의 자체 연구 결과에 따르면, 폭발적으로 증가하는 엔터프라이즈 AI 솔루션의 성장세에 편승해 사이버 범죄자들이 활용할 수 있는 AI 기반 사이버 범죄 도구 역시 급격히 증가하고 있는 것으로 나타났다. AI 기반 사이버 범죄 도구의 이용 가격이 낮아지면서 실제로 접근성은 그 어느 때보다도 높아졌기 때문에, 기술 수준을 막론하고 사이버 범죄자들이 개인 정보 갈취, 신원 도용, 사기 또는 잘못된 정보로 피해자를 기만하는 대규모 사이버 공격을 더욱 쉽게 감행할 수 있게 된 상황이다.
케빈 심저(Kevin Simzer) 트렌드마이크로 최고운영책임자(COO)는 “최근 연구에 따르면 사이버 범죄자들이 사기, 소셜 엔지니어링, 보안 우회 시도 등을 범죄자 개인의 기술 수준과 관계 없이 손쉽게 실행할 수 있게 하는 새로운 딥페이크 도구들이 발견됐다. 트렌드마이크로는 딥페이크를 비롯한 AI기반 사이버 공격을 탐지하는 새로운 기술을 통해 기업과 개인 사용자 고객 모두를 보호하고자 하며, 보안업계를 선도하는 기업으로서 적극 대응하고 있다. 늘 그래 왔듯이 트렌드마이크로는 최신 AI 기술로 부상한 보안의 새로운 과제를 파악하고 이에 대응하고 있다”고 말했다.
최근 트렌드마이크로의 자체 설문조사에서 71%의 응답자가 딥페이크에 대해 부정적으로 인식하고 있고, 딥페이크가 가장 많이 사용되는 분야 중 하나가 디지털 사기라고 응답한 바 있다. 이러한 AI 기반 공격을 탐지하고 무력화하는 것은 기업의 공격 표면 위험을 더 효과적으로 관리하고 디지털 환경에서 소비자의 전반적인 사이버 위험을 낮추는 데 핵심적인 역할을 한다는 게 회사측 설명이다.
트렌드마이크로의 통합 보안 플랫폼인 트렌드 비전 원에 탑재 예정인 새로운 딥페이크 탐지 기술은 다양한 고급 기술을 적용해 AI가 생성한 가짜 콘텐츠를 찾아낸다. 해당 기능은 현재 트렌드마이크로가 무료로 공개한 개인 사용자용 ‘딥페이크 인스펙터(Deepfake Inspector)’에서도 사용할 수 있다.
트렌드마이크로의 딥페이크 탐지 기술은 기존의 이미지 노이즈 분석 및 색상 감지 수준을 넘어 사용자 행동 요소도 분석함으로써, 딥페이크 탐지 및 차단을 위한 훨씬 더 강력한 접근 방식을 제공한다. 또한 딥페이크 탐지 즉시 담당 보안 팀에 알림을 전송해 보안 운영 조직이 학습하고 교육하며 사전 조치를 취할 수 있도록 지원하므로, 향후 공격 재발을 방지한다.
또한 개인 사용자용 트렌드마이크로 딥페이크 인스펙터는 실시간 비디오 대화의 상대방이 딥페이크 기술을 사용하고 있는지 확인해 대화 상대가 실제 인물과 다를 수 있음을 사용자에게 경고한다. 이 때 분석은 소비자 디바이스에서 실시간으로 로컬로 이뤄지므로 사용자의 데이터와 개인정보가 항상 보호된다.
딥페이크는 기업과 개인 소비자에게 위협적인 범죄 기술이다. 탐지되지 않은 딥페이크는 재정 손실, 일자리 손실, 법적 문제, 평판 손상, 신원 도용, 정신적 또는 신체적 건강에 대한 잠재적 피해로 이어질 수 있다. 트렌드마이크로의 최근 조사에 따르면 응답자의 36%가 딥페이크가 적용된 사기 시도를 경험했다고 답했다. 관련해 미국 FBI는 이미 딥페이크 기술이 화상 업무 환경의 보급과 함께 비즈니스 이메일 침해(BEC) 공격을 강화하고, 원격 근무 활동에 악용되고 있음을 경고한 바 있다. 이 기술은 인체를 활용한 인증 뿐만 아니라 안면 인식과 같은 생체 인식 보안 조치를 우회하는 데에도 악용되고 있다. 또한 맞춤형 AI 범죄 도구를 개발하는 대신 혁신적인 탈옥 기술(jailbreaking technique)을 통해 기존 대규모언어모델(LLM)을 악용하는 경향이 증가하는 것으로 나타났다.
글. 바이라인네트워크
<이유지 기자>yjlee@byline.network
