덱스터, 한국전자기술연구원과 딥페이크 탐지 솔루션 개발

덱스터스튜디오가 일상 속에 빠르게 확산되며 사회적 문제로 부상 중인 ‘딥페이크’ 범죄에 대응하기 위한 핵심 기술 개발에 나선다.

콘텐츠 전문기업 덱스터스튜디오는 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 ‘복합 생성형 딥페이크 대응을 위한 능동 탐지 및 심층 분석 솔루션 개발’ 사업에 참여했다고 9일 밝혔다. 이번 사업에는 한국과학기술원(KAIST), 국립과학수사연구원, 경찰대학, 세이프에이아이, 시큐어머신스랩이 공동 참여한다.

최근 생성형 AI 기술의 고도화로 얼굴 합성, 음성 변조, 배경 편집 등이 결합된 정교한 복합 변형 딥페이크 콘텐츠가 급증함에 따라, 음성, 이미지, 영상 중 한 쪽에 특화된 단일 모델로는 고품질 신종 딥페이크 콘텐츠를 탐지할 경우 정확도가 떨어지는 기술적 한계가 존재했다.

컨소시엄은 딥페이크 콘텐츠의 특성을 AI가 스스로 파악해 최적의 분석 모델을 선택하는 능동형 ‘탐지 에이전트’와 음성·이미지·영상 탐지 역량이 통합된 ‘멀티 탐지 엔진’을 개발한다. 다중적인 탐지 결과를 종합해 위변조 여부와 함께, 판단의 근거까지 제시하는 심층 통합 솔루션을 개발하는 것이 핵심 과제다. 개발된 솔루션은 최종적으로 국립과학수사연구원, 경찰대학을 통한 실전 환경 검증을 거쳐 성능 고도화가 진행된다.

이번 사업을 위해 덱스터는 실사 수준의 정교한 미세 변형 기술과 고해상도 후처리 제어 역량을 투입해 최고 단계로 꼽히는 상업 영화 수준의 완성도를 가진 초고품질 얼굴 교체·미세 변형 딥페이크 데이터셋을 생성 및 구축한다. 이를 기반으로 탐지 시스템의 한계를 시험하고 취약점을 발굴하여 변화하는 딥페이크 생성 방식에도 대응할 수 있도록 탐지 시스템의 성능을 지속적으로 향상시킬 계획이다.

덱스터는 대형 영화, 드라마, OTT 콘텐츠 등의 VFX(시각효과) 제작 과정에서 실제 인물의 얼굴 및 표정 교체, 볼류메트릭 스캔 기반 정밀 디지털 휴먼 제작, AI 기반 리에이징(에이징+디에이징) 등을 정교하게 구현해온 바 있다. 업계 최고 수준으로 평가 받는 덱스터의 이미지 생성 기술력이 범죄 수사 연구기관의 실전 검증을 거쳐 차별화된 성능의 솔루션 개발로 이어질 것으로 기대된다.

송재원 덱스터 R&D연구소 소장은 “덱스터는 배우의 입모양을 다국어 더빙에 맞춰 수정하거나, 배우의 표정 연기를 그대로 유치한 채 다른 얼굴로 교체할 수 있는 시네마 레벨의 이미지 생성 기술을 다수 발전시켜 왔다”면서 “생성형 AI로 제작되는 신종 딥페이크의 위험성에 공감해 사업에 참여한 만큼, 국내 최고 수준의 딥페이크 데이터를 제작해 탐지 모델의 취약점을 지속 발굴하는 ‘AI 레드팀(AI Red Team)’ 역할을 수행할 것”이라고 전했다.

글. 바이라인네트워크
<오민선 기자> omsoms94@byline.network