일론 머스크의 xAI, 29조원 투자유치…딥페이크 성착취 논란도

일론 머스크가 설립한 AI 기업 xAI가 200억 달러(약 29조 원) 규모의 시리즈 E 투자 유치에 성공했다고 6일(현지시각) 발표했다. 당초 목표였던 150억 달러를 크게 상회하는 금액이다.

이번 투자에는 발로 에쿼티 파트너스, 스텝스톤 그룹, 피델리티, 카타르 국부펀드, 엔비디아, 시스코 등 주요 투자자들이 참여했다. xAI는 이 투자금을 AI 슈퍼컴퓨터 ‘콜로서스’ 확장과 자사의 파우데이션 모델인 ‘그록’ 개발에 사용할 계획이다.

xAI는 현재 100만 개 이상의 H100 GPU를 보유하고 있으며, X와 그록 앱을 통해 월 6억 명의 활성 사용자를 확보하고 있다고 밝혔다.

이와 같은 대규모 투자유치와는 별도로 그록은 여성 및 아동의 성착취 콘텐츠를 생성해 논란의 대상이 되기도 했다. 그록이 여성과 아동의 성적 딥페이크 이미지를 생성했다는 것이다.

문제는 지난해 12월 25일 그록 이미지(Grok Imagine)의 이미지 편집 기능이 출시된 이후 불거졌다. 사용자들이 X 플랫폼에 게시된 여성과 아동의 사진을 동의 없이 수정해 성적인 이미지를 생성하도록 요청했고, 그록은 이러한 요청에 응했다. X에 사진을 업로드한 뒤 그록을 태그하고 “비키니로 만들어줘”와 같은 간단한 문장만 입력하면, 실제 인물의 옷을 제거하거나 노출도가 높은 복장으로 바꾼 이미지가 즉시 생성되는 방식이다.

유로뉴스에 따르면 그록은 14세 여배우를 포함한 미성년자의 성적 이미지를 생성하는 등 심각한 안전장치 실패를 보였다. 콘텐츠 분석 기업 카피릭스는 그록이 분당 약 1건의 비동의 성적 이미지를 생성하고 있으며, 이들이 X에 직접 게시돼 확산될 수 있다고 분석했다. 로이터통신은 단 10분 동안 100건이 넘는 디지털 탈의 요청이 올라온 것을 확인했다고 보도했다.

특히 머스크의 13번째 아이 어머니인 애슐리 세인트 클레어도 피해를 입어 논란이 가중됐다. 클레어는 5일 영국 가디언에 “내가 비키니를 입은 합성 사진이 X에 떠돌고 있다”며 “심지어 어린 시절 사진도 합성에 이용됐다”고 분노를 표출했다.

클레어는 자신의 사진을 발견한 뒤 X에 항의했지만 그대로 게시돼 있었다고 밝혔다. 그는 “어린 시절 사진으로 만들어진 이미지조차 삭제하지 않았다”며 “그들은 나에게 직접 연락할 수 있지만 아무것도 하지 않았다”고 비판했다. 클레어의 이미지는 가디언이 X에 논평을 요청한 뒤에야 삭제됐다.

전문가들은 그록이 딥페이크 성착취 이미지를 만들고 확산하는 진입 장벽을 크게 낮췄다고 비판한다. X에서는 사진을 올리고 그록을 태그해 명령만 내리면 딥페이크가 생성되고 X를 통해 널리 퍼질 수 있다.

유럽연합 집행위원회는 그록의 아동 성적 이미지 생성에 대해 “끔찍하다(appalling)”며 “유럽에서 설 곳이 없다”고 강력히 비난했다. 인도 전자정보기술부도 X에 72시간 이내에 그록이 음란하거나 아동 성착취물을 생성하지 못하도록 조치를 취하라고 명령했다.

일론 머스크는 지난 4일 “그록을 사용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드한 것과 동일한 결과를 겪게 될 것”이라고 경고했다. 하지만 이와 같은 분위기를 조성한 것은 머스크 본인이다. 머스크는 초기에 그록이 생성한 비키니 이미지를 리트윗하며 상황을 조롱하는 듯한 태도를 보이기도 했다.

사이버 보안 기업 홈 시큐리티 히어로즈의 2023년 보고서에 따르면, 온라인 딥페이크 영상의 약 98%가 딥페이크 포르노그래피이며, 그 대상의 99%가 여성이다. 이에 영국 정부는 12월 누군가의 옷을 디지털로 벗기는 ‘누디피케이션’ 앱을 금지하겠다고 발표했다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network