카카오, 카나나에 구글 워터마킹 솔루션 적용… “AI 생성 콘텐츠 투명성·신뢰성 확보”

오는 하반기부터 카카오 인공지능(AI) 모델 ‘카나나(Kanana)’가 생성한 이미지에 디지털 워터마크가 적용된다. 카카오는 이를 통해 AI 생성 이미지의 투명성과 신뢰성을 강화한다는 계획이다.

카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 이번 파트너십으로 카카오는 자체 AI 모델 ‘카나나(Kanana)’에 ‘신스ID(SynthID)’를 적용해 AI 생성 콘텐츠에 워터마크를 삽입하고 추적할 수 있는 수 있는 기반을 마련한다. 아시아 기업 중 AI 생성 콘텐츠에 해당 기술을 적용한 기업은 카카오가 처음이다.

신스ID는 구글 딥마인드가 개발한 디지털 워터마킹 및 탐지 기술이다. 이미지, 텍스트, 오디오, 영상에 이용자의 눈과 귀로는 감지할 수 없는 디지털 워터마크가 삽입돼 콘텐츠의 AI 생성 여부를 검증할 수 있다. 품질 저하 없이 AI 생성 여부를 추적할 수 있어 딥페이크나 허위 정보 등 AI 생성물 악용에도 대응할 수 있다.

카카오는 올해 하반기부터 이미지 모델인 ‘카나나 콜라주(Kanana-Kollage)’와 영상 모델 ‘카나나 키네마(Kanana-Kinema)’에 신스ID 워터마크를 적용한다. 먼저 카카오톡에서 주고받은 이미지를 활용해 AI로 짧은 영상을 만들 수 있는 ‘카나나 템플릿’에 신스ID 워터마크를 적용할 예정이다. 카나나 템플릿은 카나나 시네마 모델을 기반으로 구현돼 있다. 카나나 템플릿으로 생성된 영상에는 카나나 로고가 표시되지만, 신스ID를 적용해 결과물이 편집 등 재가공되더라도 AI 생성 여부를 식별할 수 있게 할 예정이다.

올해부터 AI 기본법 시행과 함께 AI 생성물 표시제가 본격 도입된 가운데, 카카오는 법적 의무를 넘어 신스ID 기반의 비가시적 워터마킹 기술까지 선제적으로 적용하며 AI 생성 콘텐츠의 투명성과 신뢰성을 강화한다는 계획이다.

김경훈 카카오 AI Safety 리더는 “AI 기술이 일상 속으로 빠르게 확산되면서 AI 생성 콘텐츠의 투명성과 신뢰성을 확보하는 중요성도 함께 커지고 있다”며 “신스ID 적용을 시작으로 구글과 책임감 있는 AI (Responsible AI) 영역에서의 기술 협력을 지속하며, 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 계획” 이라고 말했다.