자극적인 콘텐츠는 페이스북에서 직접 노출 줄인다

 

페이스북 CEO 마크 저커버그가 자신의 계정에서 앞으로 자극적인 게시물의 도달을 낮출 것이라는 목표를 게시했다. 골자는 가이드라인 위배에 가까운 게시물일수록 도달을 낮추겠다는 것이다.

그렇다면 자극적인 게시물이란 무엇일까?

페이스북에는 ‘커뮤니티 규정’이라는 게시물 제한 항목이 있다. 여러 가지로 나뉘어 있지만 가장 적극적으로 대응되는 것은 혐오 표현이나 자해, 가짜뉴스 등이다. 이는 첫째로 페이스북 내부 리뷰어가 가이드라인을 보며 게시물을 삭제하는 형태다. 하루에 200만여건을 처리한다. 그러나 이 방법만으로는 모든 게시물을 다 열람할 수 없고 10% 이상의 확률로 오류가 발생한다. 국내에서도 여성들의 반라 시위를 누드 사진으로 오판해 게시물을 금지했다 풀었던 사례가 있다. 이후 AI를 도입해 선정성이 있는 알몸 사진을 걸러내기 시작했다. 현재 선정성 있는 사진은 96%의 확률로 걸러진다.

페이스북이 가장 강하고 빠르게 대처하고 있는 테러리스트 관련 게시물이나 자해, 끔찍한 사진(시체 등) 역시 AI로 걸러진다. 테러 관련 게시물을 걸러내는 정확도는 99%까지 올랐다고 한다.

지난 4~5월, 페이스북은 가짜뉴스에 대해서도 대응을 발표한 바 있다. 선거를 준비하며-게시물을 보면 가짜뉴스와 가짜 계정에 대응할 것임을 발표했다. 가짜 계정은 15억개, 가짜뉴스를 포함한 게시물은 12억건 이상 삭제됐다. 그러나 가짜뉴스나 선정성이 높은 게시물이 모두 삭제되진 않았다. 가짜뉴스의 경우 공정한 절차를 위해 팩트체크 기관가 함께 처리를 하느라 비교적 시간이 걸리는 것이다.

[AD] ‘컨네이너 가상화의 모든 것’ 세미나 (11월 29일, 한국과학기술회관) 자세히 보기

그럼 선정성이나 혐오 정도가 높은 게시물은 왜 삭제하지 않는 것일까? 이는 미국 특유의 ‘표현의 자유를 존중하는’ 분위기 때문이다. 명백한 혐오 표현이 아닐 경우 페이스북이 머물고 있는 미국은 최대한 표현의 자유를 인정하러 노력하며, 콘텐츠도 자정 작용의 영향을 받을 것이라 믿는다.

그런데 여기엔 함정이 있다. 페이스북이 삭제할 수준에 가까워질수록 사람들이 좋아한다. 그만큼 자극적인 소식이라는 것이다. 누드에 가깝지만 누드는 아닌, 함의는 혐오지만 혐오 발언을 하지 않는 컨텐츠, 보도를 목적으로 한 뉴스지만 사실상 사건을 포르노처럼 소비하는 기사들은 순식간에 공유되고 확산된다. 만약 혐오 발언에 분노한 사용자가 이 혐오 발언을 비판할 목적으로 공유한다고 치자. 그래도 이 게시물은 확산된다.

 

경계선에 있는 컨텐츠에 제약을 두지 않았을 때의 도달(제공=페이스북)

 

페이스북 입장에서는 이 게시물이 커뮤니티 규정을 위반하지 않았으므로 삭제할 수는 없다. 표현의 자유가 보장되어야 하기 때문이다. 따라서 페이스북이 선택한 방법은 도달 그래프를 수정하는 것이다. 가짜뉴스 도달을 떨어뜨리는 것과 같은 방식이다.

 

조치를 취하고 난 뒤의 도달(제공=페이스북)

 

1차적인 판단은 AI가 한다. 또한 리뷰어가 개입할 여지도 있다. 많은 게시물을 직접 보기보다는, 공유 및 확산이 빠르게 이뤄지고 있는 게시물을 먼저 보면 되기 때문에 사람이 할 수 있는 영역이 커진다. 도달 그래프를 수정하고 나면 해당 게시물은 페이스북 친구가 공유하더라도 비교적 노출이 덜 되게 될 것이다. 따라서 페이스북은 표현의 자유를 해치지 않으면서 선정성이나 혐오 표현이 있는 게시물의 도달을 낮출 수 있다. 이를 페이스북은 콘텐츠 거버넌스로 부른다.

페이스북의 콘텐츠는 인간 그 자체다. 그러나 가짜뉴스, 혐오 표현, 보안 문제 등을 이유로 그 사람들은 점차 페이스북을 떠나고 있다. 페이스북 입장에서 너무 늦은 조치는 아니어야 할 것이다. 인생에서 플랫폼이 사라지는 건 1분밖에 걸리지 않는다.

 

글. 바이라인네트워크
<이종철 기자> [email protected]



Categories: 기사

Tags: , , , , , , ,

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다

바이라인네트워크를 구독하세요!

이메일을 입력하시면 바이라인네트워크를 구독하실 수 있습니다

You have Successfully Subscribed!