4·10 총선에서도 후끈했던 AI, 어떻게 활용됐나

꺼지지 않는 인공지능(AI) 열풍은 이번 총선에서도 확인할 수 있었습니다. 지난 2022년 11월 오픈AI가 챗GPT를 내놓은 이후 치러진 첫 선거. 그 어느 때보다 AI의 영향이 도드라졌습니다. 급속도로 발전한 생성AI 기술이 부작용을 낳는가 하면, AI를 활용한 선거방송 연출과 투표 결과 분석이 열기를 더하기도 했습니다.

우선은 부작용입니다. 무엇보다 공명정대해야 하는 게 선거. 이번 총선에서는 딥페이크 게시물 경계령이 내려졌습니다. 생성AI를 활용해 진짜 후보처럼 속여 가짜 공약이나 주장을 내세울 경우 결과에도 영향이 미칠 수 있기 때문입니다.

이미 유튜브나 틱톡 같은 영상 플랫폼에는 연예인의 모습을 딴 딥페이크 영상을 쉽게 찾아볼 수 있습니다. 총선 후보라고 주인공이 되지 말라는 법은 없겠죠. 선거관리 기관과 포털의 감독 노력도 어느 때보다 활발했습니다.

지난해 말 개정한 공직선거법은 ‘선거일 90일 전부터 선거일까지 선거운동을 위하여 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다’고 못박았습니다. 중앙선거관리위원회도 지난 1월10일부터 AI감별반을 운영했습니다. 중앙선관위에 따르면 1월29일부터 총선 전날인 9일까지 적발된 딥페이크 게시물은 총 387건이었습니다.

국내 포털사이트의 차단 확산 노력도 함께였습니다. 네이버와 카카오, SK커뮤니케이션즈는 지난달 악의적 선거 딥페이크 사용 방지를 위한 공동선언을 채택했습니다. 일례로 네이버는 신고센터를 열고 허위 정보나 딥페이크 콘텐츠를 신고할 수 있도록 했습니다. 카카오는 카카오브레인의 이미지 생성AI ‘칼로’에 비가시성 워터마크 기능을 추가했습니다. 이미지 디자인을 훼손하지 않으면서도 생성AI가 만든 이미지임을 알릴 수 있는 기능입니다.

반대로 AI가 선거의 재미(?)를 높이는 수단으로도 쓰였습니다. 지상파 3사는 영상에 각 후보들의 모습을 AI로 입힌 선거 방송으로 지난 밤을 달궜습니다. 경쟁하는 후보들을 랩배틀에 나선 래퍼로 그리거나 드라마의 주인공으로 표현하는 등 개표방송 그래픽이 더 풍성해졌습니다.

SBS 선거 개표방송 캡처. BBC는 이러한 한국 방송사들의 개표 방송에 관심을 드러내기도 했다.

이건 사실 아주 고도화한 AI 기술이 필요한 건 아니지만 외신의 눈에는 무척 신기했나 봅니다. 영국의 BBC는 ‘Is this K-drama? No, it’s South Korea’s election night(이것은 K-드라마가 아니라 한국 선거날의 밤)’이라는 제목의 기사를 내고 우리나라 개표 방송에 주목했습니다.

하지만 분석에 쓰인다면 이야기가 다릅니다. SBS는 딥러닝으로 선거 데이터를 학습시키고 생성AI 챗봇과 가상음성 기능을 붙인 캐릭터 ‘AI 투표로’가 선거방송을 진행했습니다. 또 AI 알고리즘 몬테카를로 시뮬레이션을 적용한 분석 시스템 ‘AI 오로라’도 적용했습니다. 몬테카를로 시뮬레이션은 무작위로 추출한 난수로 함수의 값을 계산하는 통계법입니다. 딥마인드의 알파고에 쓰이면서 더 유명세를 탄 기법이죠. 이를 통해 개표 데이터를 분석한 뒤 당선 확률을 제시했다는 게 SBS의 설명입니다.

딥페이크가 가짜로 사람을 현혹시킨다면 진짜 사진으로 추억을 소환하는 착한 AI도 있었습니다. SBS 미디어기술연구소는 AI 인물 검색 기술을 활용해 주요 후보의 옛 영상을 공개해 눈길을 끌었습니다.

이번 총선은 끝났지만 AI의 영향력은 계속 확대될 것으로 보입니다. 내후년에는 지방선거가 예고돼 있고 그 다음 해에는 대선이 치러집니다. 빨라지는 기술 발전 속도로 AI의 위협은 더 깊숙이 들어올 수 있습니다.

벌써부터 국제적인 경고가 나옵니다. 마이크로소프트 위협분석센터(MTAC)는 이달초 보고서를 통해중국이 올해 한국·미국·인도의 선거에 AI로 만든 허위 조작 정보를 퍼뜨릴 것이라고 경고했습니다. 보고서에 따르면 중국은 이미 1월에 열렸던 대만의 총통 선고에서도 AI로 만든 허위 콘텐츠를 퍼뜨렸습니다.

빨라지는 솔루션 발전 속도도 우려와 기대를 동시에 낳습니다. 오픈AI가 만든 ‘소라(Sora)’를 비롯해 구글의 ‘루미에르(Lumiere)’같이 정식 출시를 앞둔 영상 생성AI는 물론 이미 고도화된 이미지 생성AI로 만든 콘텐츠는 더 정교해진 모습으로 여론을 호도하는 위협이 될 수 있습니다.

반대로 이 같은 생성AI를 활용해 상대적으로 선거 비용이 부족한 캠프가 자체 콘텐츠로 후보를 알리는 수단으로 쓸 수도 있습니다. 정치 참여의 첫 걸음인 선거에 AI의 영향은 계속 커질 전망입니다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network

[컨퍼런스 안내] 클라우드 보안 & 제로트러스트 컨퍼런스 2024

  • 일시: 2024년 7월 4일 오전 8:40 ~ 오후 6:00
  • 장소: 서울 서초구 강남대로 213 양재 엘타워 6층 그레이스홀

[무료 웨비나] B2B기업, AI 시대 어떻게 고객을 발굴할 것인가?

  • 정민아 <하룻밤에 읽는 B2B 마케팅> 저자
  • 2024년 7월 9일 14:00~15:00

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다