AI를 활용한 딥페이크 사기와 로맨스 스캠, 암호화폐 해킹이 확산하면서 사이버 범죄의 규모와 속도가 커지고 있다. 범죄자들은 저렴한 구독형 AI 도구를 이용해 범죄를 자동화하는 반면, 수사기관은 인력 부족과 오탐 등으로 대응에 어려움을 겪고 있다. 맷 험프리스 TRM랩스 총괄은 수사 전용 AI 시스템에 투명성·통제력·무결성을 반영하고, AI 기반 자동화로 범죄 예방과 수사 효율을 높여야 한다고 강조했다.
기업 보안 책임자 10명 중 4명은 최근 1년 동안 직원의 음성통화에서 딥페이크를 활용한 사회공학 공격을 경험한 것으로 조사됐다.
한컴그룹의 지주회사인 한컴위드는 딥페이크 탐지 화자인증 솔루션 ‘한컴 에이아이에스알씨 스피키(Hancom AISRC SPEEKEY, 이하 스피키)’의 원천 기술이 세계 최고 권위의 음성·신호처리 학회에서 기술력을 인정받았다고 11일 밝혔다.
내일(7일)부터 온라인상 허위조작정보 유통을 방지하는 개정 정보통신망법이 본격 시행된다. 위반 시 최대 10억원의 과징금이 부과될 수 있다. 플랫폼 업계에서는 무엇이 가짜뉴스인지 판별할 법적 기준이 모호하다고 지적한다. 이런 상황에서 실무 규제가 가동되면 현장의 운영 부담과 법적 리스크가 커질 수 있다는 우려도 제기된다.
가트너는 위협 신호와 조직의 대응 역량을 기준으로 위협 환경을 평가한 결과, 기존 보안 체계만으로 대응하기 어려운 위험이 늘고 있다고 9일 밝혔다. 이어 AI 확산에 따른 주요 사이버 위협으로 ▲딥페이크 ▲AI 애플리케이션 침해 ▲프롬프트 인젝션 ▲소프트웨어 공급망 공격을 선정했다.
HPE가 발간한 사이버 위협 보고서 ‘인 더 와일드(In the Wild)에 따르면, 최근 공격자들은 기업처럼 조직을 꾸리고 자동화와 인공지능(AI)을 활용해 공격의 규모와 속도를 키우고 있다. 특히 정부·금융·기술 분야를 중심으로 실제 공격 사례가 집중되고, 생성형 AI는 음성 합성·딥페이크 기반 사칭 범죄에도 활용된 것으로 나타났다.
마크비전은 에이티넘인베스트먼트와 진행한 피싱 범죄 대응 협업에서 지난해 피싱 의심 웹사이트와 게시물 196건을 선별하고, 실제 위반으로 확인된 89건 가운데 84건을 제재했다고 26일 밝혔다.
노드VPN은 “한국인의 92%가 업무용 AI 사용 시 개인정보 보호 요소를 충분히 인식하지…
디지털 범죄 대응 전문기업 라바웨이브는 여론조사 전문기관 리얼미터에 의뢰해 ‘딥페이크 범죄에 대한…
김기범 성균관대 교수, 한국인터넷거버넌스포럼서 ‘AI 기반 사이버 범죄 대응 전략‘ 짚어 “인공지능(AI)이…
가트너(Gartner)는 오는 2027년까지 인공지능(AI) 에이전트가 사용자 계정 탈취(ATO) 시간을 50% 줄일 것이란…
2025년 새해 사이버 보안 분야에서는 인공지능(AI)·딥페이크 악용 공격, 차세대 보안관제센터 자동화, 다층보안체계(MLS)…
정부가 온라인상에서의 개인정보 불법유통을 막기 위해 인공지능(AI) 기술을 활용한 탐지시스템을 개발한다. 텍스트를…
![[인터뷰] “누가 내 선생님이고 누가 AI 인가, 학생들도 구분 못 해요”](https://cdn.byline.network/wp-content/uploads/2024/09/deepbrain-001-325x216.jpeg)
직접 봤다. AI 교수가 수업하는 영상 장면을. ‘AI는 티가 나겠지’ 하는 마음으로…
샌즈랩이 생성 인공지능(AI)의 역기능 중 하나인 딥페이크 여부를 탐지하는 서비스 ‘페이크체크’를 출시했다….
End of content
End of content
