미국발 소셜 플랫폼, 트위터, 텀블러, 인스타그램, 페이스북 등은 예로부터 표현의 자유를 강조해왔다. 표현의 자유란 어떤 누구도 표현에 제약이 없어야 한다는 것으로, 자유를 중요시하는 미국에서 가장 중요한 가치에 해당한다. 그러나 발언하는 방법이 쉬워지고 전 세계가 연결되자 헤이트 스피치, 테러리즘 등과 관련된 게시물이 올라오자 각 플랫폼은 방관하지 않고 제재를 점차 늘려가는 중이다.

발표-카리나 뉴튼 글로벌 공공정책 총괄(Karina Newton, Head of Public Policy)

인스타그램 역시 안전한 플랫폼 구축을 위한 정책을 발표했다. 특히 이번 발표에는 ‘신고하기’가 주요 기능으로 꼽혔다. 신고하기란, 어떤 계정의 어떤 게시물도 허위 정보나 스팸으로 신고할 수 있는 기능이다. 기존에는 광고에만 표시할 수 있었다.

인스타그램의 안전한 플랫폼 관리는 1. 커뮤니티 가이드라인, 2. 신고하기와 콘텐츠 리뷰 3. 각종 기술에 의해 이뤄진다.

 



커뮤니티 가이드라인

페이스북과 인스타그램에서 커뮤니티 가이드라인은 ‘규칙’을 말한다. 혐오 발언, 나체 이미지, 온라인 괴롭힘, 추행, 테러리즘, 약물 판매 등을 강력히 금지하고 있다. 이 커뮤니티 가이드라인은 각종 분야의 전문가들과 함께 만든다. 한번 정해진 정책도 계속해서 다시 재평가된다. 예를 들어 자해나 자살 암시 게시물의 경우, 사용자가 그러한 게시물을 올리면서 회복해가는 경우에는 그대로 놔두었으나, 이번 정책 변화로 그 회복하는 단계도 보는 사람에게는 악영향을 끼칠 수 있어 게시물을 숨긴다고 전했다. 그러나 현재의 정책도 나중에 재평가될 수 있다. 자해나 자살의 경우 검색하면 도움을 받을 수 있는 곳을 팝업으로 띄우기도 한다.

자살 등의 해시태그를 검색하면 지원 받기 항목이 팝업으로 뜬다

거짓 정보를 꾸준히 올리는 경우, 특정 기간 동안 특정 회수만큼 업로드하는 경우에도 게시물 삭제 정책이 시행되고 있다. 이 가이드라인은 타임라인 노출 외 해시태그 검토에도 적용된다.

특정 해시태그 등을 검색했을 때, 혹은 둘러보기를 선택했을 때 나타나는 게시물은 가이드라인을 위반한 게시물을 제외한다. 또한, 거짓 정보를 올리지만 가이드라인을 위반하지는 않았을 경우 삭제 등의 조치까지 이뤄지지는 않지만 역시 둘러보기 노출은 자제된다. 이 과정에는 AI과 전문 모니터링 요원이 함께한다.

자해 등의 게시물을 업로드했을 때 특정 게시물은 계정 내로 들어가도 노출되지 않게 되며, 둘러보기에는 자동 노출되지 않는다

신고하기와 콘텐츠 리뷰

모니터링은 교육받은 전문 요원이 실행하는 것이지만 인터넷 트렌드는 매우 빨라서 요원이 따라잡기 어려울 수 있다. 따라서 페이스북은 신고하기 기능을 전 세계에 론칭하기로 했다. 어떤 게시물이든 신고할 수 있는 기능이다. 그러나 신고가 들어온 게시물에 대해 가이드라인 위반 여부를 요원이 선택 후 비공개를 진행한다. 만약 게시자가 재심사를 요청하면 다른 요원이 평가 후 재게시 처리할 수 있다. 이 신고 과정에서 피드백이 쌓이고 이것을 AI 학습에 재활용한다고 한다. 이러한 신고의 경우 순서가 잡혀있는데, 테러리즘 관련 이슈는 가장 빠르게 대응한다고.

AI가 걸러낸 혐오 정보를 판단할 수 있는 화면. 모니터링 요원이 이 정보를 보고 상황을 판단한다.

안전 기능에 적용된 기술

인스타그램은 딥러닝을 통해 다양한 불성실 사용자를 가려내고 있다. 팔로워를 늘리는 프로그램을 방지하며, 계정 보안 기능을 강화하고 있다. 안드로이드에 우선 적용됐고 iOS에도 점차 적용되고 있다. 혐오 발언 등의 게시물은 1차적으로는 AI가 걸러내며, 이를 사람이 판단하는 식으로 기술을 적용한다.

 

팩트 체커 도입도 고려 중

인스타그램이 이러한 계정 준비를 하는 이유는 기자간담회에서는 철저하게 소비자를 위해서라고 했지만 자신들을 위해서기도 할 것이다. 각종 소셜 미디어는 페이크 뉴스로 인해 몸살을 앓은 바 있다. 페이스북에서 가짜 뉴스가 돌아다니다 선거에 영향을 준 사건이 여러 번 있었다. 인스타그램은 텍스트 위주의 매체는 아니지만, 엄연히 텍스트를 쓸 수 있고, 요즘의 유저들은 딥페이크를 통한 가짜 영상을 만들어낼 수도 있다. 언젠가 정치 가짜뉴스 스캔들이 터지지 말라는 보장은 없다. 따라서 페이스북은 영상의 오디오 시그널, 텍스트의 진위 여부 등을 AI와 팩트체킹 기관, 모니터링 요원 등을 도입했고, 이 시스템을 인스타그램도 함께 사용하며 페이스북만큼 엄격한 게시물 관리를 하고 있다. 국내의 경우 공인 팩트체크 기관이 존재하지 않지만, 방심위, 경찰, 선관위 등과 함께 데이터를 모니터링 중이라고 한다.



 

사소한 데이터가 문제

현재 한국 인스타그램에서 가장 활발한 거짓 정보는 상품 정보일 것이다. 인스타그램은 이를 막아내기 위해 브랜디드 콘텐츠 항목을 만들어놓았다. 그러나 소규모 인플루언서의 경우 이러한 콘텐츠를 모두 잡아내기란 어려운 일일 것이다. 이 사소한 데이터까지 AI가 얼마나 잡아낼 수 있는지가 앞으로 한국에서 인스타그램의 지위를 결정하지 않을까.

 

글. 바이라인네트워크
<이종철 기자> jude@byline.network