샌즈랩, 페이스탐지 2.0 출시..생성형 AI 딥페이크 이미지·영상 탐지

샌즈랩(대표 김기홍)은 지난해 개방한 딥페이크 탐지 서비스 ‘페이크체크(fakecheck)’의 2.0 업데이트를 완료했다고 16일 밝혔다.

페이크체크는 사용자가 직접 사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 인공지능(AI)이 데이터 분석을 통해 수 초 내로 위조 진위 여부를 판별해 주는 온라인 서비스다. 국민 누구나 쉽게 서비스를 이용할 수 있도록 회원가입, 인증 등 번거로운 절차없이 PC나 모바일로 접속해 무료로 사용할 수 있다.

샌즈랩은 이번에 정교한 탐지를 위해 딥페이크 트렌드가 반영되도록 적용하고 기능을 개선했다. AI 탐지 모델 수의 증가는 물론 공개 데이터셋과 명시적 동의 아래 수집한 얼굴 이미지를 학습한 특화 모델을 개발했다. 이로 인해 특정 도메인과 한국 중·장년층을 대상으로 한 딥페이크 이미지에 대한 탐지 정확도가 크게 향상돼 전 연령대의 고른 분석이 가능해졌다.

또 페이스스왑(Face Swap) 기술을 이용해 기존의 얼굴을 위·변조한 이미지뿐 아니라 챗(Chat)GPT 등 생성형 AI가 만들어 낸 가상 인물 이미지까지 구분할 수 있도록 각각의 모델로 고도화해 탐지율을 높였다. 샌즈랩 AI 기술개발팀은 웹상의 실제 정상 이미지 100장과 GPT-4o를 통해 생성한 딥페이크 이미지 200장을 대상으로 한 자체 테스트에서 99.33%의 정확도(Accuracy)와 99.5%의 F1 점수(Score)를 달성해 우수한 성능을 입증했다고 회사측은 설명했다.

딥페이크 영상 탐지 기능도 이번 2.0 업데이트와 함께 적용될 예정이다.

샌즈랩은 기술 개발은 이미 마쳤으나 대국민 무료 서비스 개방 취지를 유지하기 위한 최적화를 진행 중이라고 밝혔다. 유료화를 하지 않는 범위 내에서 파일 길이, 용량 등의 세부 사항을 조율 중에 있어 이르면 이달 내 영상 탐지 적용이 완료될 예정이라고 밝혔다.

이렇게 한국인의 특징을 학습하고 최근 급증하고 있는 생성형 AI 이미지 분석에 특화된 한국형 딥페이크 서비스 페이크체크 2.0은 인간의 육안으로 쉽게 구별하기 힘든 딥페이크를 바로 탐지해 낼 수 있어 수백명의 대응 인력을 동원해 2·3차 검증으로 판별했던 일을 10분의 1 수준으로 대폭 줄일 수 있을 것으로 보고 있다. AI에 대응하는 것은 더 이상 인간이 아니라 AI로 맞대응함이 필요하며 이에 맞는 AI 보안 기술 개발 또한 수반되어야 하는 까닭이다.

샌즈랩 김기홍 대표는 “악성코드 해킹, 딥페이크 등으로 발생한 피해자들을 보호하기 위한 진위 확인을 거치다 보면 골든타임을 놓치고 보호 효과도 상실되기 때문에 AI로 빠르게 해결해야 한다”며, “검증이 끝나기 만을 기다리는 것 말고는 할 수 있는 게 없는 피해자들의 마음을 누구보다 잘 알고 있기에 페이크체크로 국내 디지털성범죄에 국민들이 스스로 대응할 수 있는 빠르고 실질적인 방법을 제공하였고 앞으로도 사회의 각종 AI 역기능을 해결하는데 필요한 AI 안전 연구 및 기술을 개발해 기여할 것”이라고 밝혔다.

글. 바이라인네트워크
<이유지 기자>yjlee@byline.network