|

페이스북 커뮤니티 규정 업데이트: 혐오 발언에의 더욱 강력한 대처

페이스북 커뮤니티 규정이 또 한번 진화했다. 사실 커뮤니티 규정은 2주마다 업데이트되고 있어서 진화했다고 보기는 어렵다. 최근 업데이트된 것 중 큰 변화는 1. 신체 긍정성 반영 2. 혐오 발언 3. 폭력적 이미지 4. 인간 착취성 게시물에 대한 정책 변화다.

커뮤니티 규정은 페이스북 운영 정책을 이야기한다. ‘사람’이 곧 콘텐츠인 페이스북과 인스타그램은 페이스북 운영 정책을 공동체 규정으로 정의한다. 지난해 25가지였던 커뮤니티 규정은 현재 27가지가 됐다. 단순히 두가지가 는 것은 아니고 삭제되는 항목이 있고 늘어난 항목이 있는데, 위키문서의 형식으로 최근 업데이트 항목에서 살펴볼 수 있다.

최근 업데이트된 항목 중 큰 건 네가지다. 1. 신체 긍정성(Body positivity) 반영 2. 혐오 발언 제재 강화 3. 폭력적 이미지 구분 4. 인간 착취성 게시물 삭제다.

신체 긍정성은 누드 사진과 자신의 신체를 긍정하는 사진을 구분하는 것을 말한다. 과거 국내에서도 누드 시위를 통해 화두가 된 바 있다. 신체 노출 수위가 높다고 하더라도, 자신의 신체를 긍정하는 의미로 게시했을 때 누드 사진으로 판별하지 않는다.

혐오 발언의 경우 페이스북에서 항상 주의를 기울이고 있는 항목이다. 최근 화두가 된 것은 조지 플로이드 사망 사건의 촬영자가 10대라는 점을 감안해, 이 촬영자를 개인으로 분류하고 촬영자 개인이 피해를 볼만한 포스팅에 대한 제재가 이뤄졌다.

폭력적 이미지의 경우 기존에도 이미지를 볼지 선택할 수 있는 권한을 다른 사용자에게 줬었는데, 이 권한이 점차 확대돼 폭력성을 암시하는 게시물을 가려주는 처리가 늘어났다.

장기를 판매한다 등의 인간 착취성 게시물의 경우 예외 없이 제한 조치가 이뤄진다.

그러나 이 모든 항목은 맥락 없이 삭제하거나 제한하는 것이 아니다. 페이스북이 커뮤니티 규정을 적용하는 것은 대부분 AI가 처리하고 있다. 또한 AI가 처리하지 못하는 것은 리뷰어 인력이 처리한다. 예를 들어 “죽고 싶다”는 게시물을 어느 한국 사용자가 올렸다고 치면, 이것이 자살 암시인지 아닌지를 AI가 파악하기는 어렵다. 한국어를 비롯한 여러 국가에서 이 표현은 ‘힘들다’는 말로 해석될 수도 있기 때문이다. 이런 경우 AI는 빠르게 리뷰어에게 리뷰 요청을 한다. 리뷰어는 게시물 아래의 ‘ㅋㅋㅋㅋ’라든가, 공감한다는 댓글과 전후 맥락을 보고 이것이 자살 및 자해 암시인지 아닌지를 파악하고 게시물 제한 처리 여부를 결정한다. 반대로 자살 및 자해 암시가 확실한 경우에는 그 수위가 높지 않더라도 제한 처리를 하게 된다. 반대로 이 항목에 대한 토론 자체에는 별다른 제재가 취해지지 않는다.

혐오 발언이나 따돌림 같은 경우 게시물 제한 조치 규정이 점차 복잡해지고 있다. 우선은 공인과 개인에 대한 처리가 다르다. 공인에 대해 언급하는 것은 가능하지만, 공인인 사람의 개인적인 인격모독과 혐오성 발언은 허용되지 않는다. 위에서 언급한 촬영자의 경우 원해서 이름이 알려진 케이스가 아니므로 개인으로 처리해 더 엄격한 조치를 취한다.

또한, 만 18세 이하의 미성년자를 향한 게시물은 더 강력하게 조치된다. 따라서 10대 사회활동가 개인에게 인격모독성 발언을 한다면 제한 조치가 이뤄질 것이다.

사이버 괴롭힘의 가장 확실한 제한 방법은 사용자 자신이 신고했을 때다. 예를 들어 본인이 아닌 다른 사람(형제나 친척도 포함된다)이 얼굴이나 몸매 사진을 올리며 칭찬을 했다고 해도 본인이 신고를 한다면 제재 대상이 된다.

혐오성 발언의 경우 지켜져야 할 것들을 규정하고 이에 맞게 처리를 한다. 주로 카스트 제도처럼 선천적으로 타고난 것을 가지고 혐오성 발언을 하는 것에 포커스를 맞춘다. 예를 들어 ‘국수주의는 정신병’이라고 게시물을 올렸다고 치자. 이 게시물은 페이스북에서 허용된다. 구체적인 사람이 아니라 국수주의에 대한 공격을 했기 때문이다. 그러나 ‘쪽바리’ 등의 단어를 썼다면 게시물 작성 제한 대상이 된다. 특정 국가의 전체 사람을 비난한 것으로 치부되기 때문이다.

이 같은 처리에 힘입어 혐오 발언에 대한 사전 감지율이 지난 2개 분기에 비해 8%p 증가했다. 이는 일년 새 거의 20% 정도 증가한 수치다. 혐오 발언은 89% 정도 신고 전에 감지됐다. 2분기에는 95% 수준으로 높아졌다고 한다. 혐오성 발언이 늘어난 것이 아니라 감지율이 늘어난 것이다.

한편, 미국 대선과 관련된 항목은 커뮤니티 규정과 별개로 더욱 강력한 조치가 적용됐다고 한다.

글. 바이라인네트워크
<이종철 기자> jude@byline.network

AI 트랜스포메이션을 위한 리테일 테크는 무엇일까

– 리테일 & 로지스 테크 컨퍼런스 2024

리테일 산업은 이제 디지털 산업입니다. 온라인뿐 아니라 오프라인 기업도 디지털 기술을 활용하지 않고서는 생존할 수 없습니다. AI 기술의 발달은 리테일 업계에 새로운 기회와 도전과제를 안겨주었습니다.

생성형 AI, 이커머스 쏠림, D2C 확장, 오프라인 매장의 폐점, 경기 침체, 늘어만 가는 배송 수요 등의 많은 변화 속에서 리테일과 물류, 커머스 업계는 디지털 없이는 변화에 대처할 수 없음을 알고 있습니다.

이에 바이라인네트워크는 리테일&로지스 테크 컨퍼런스 2024를 개최합니다. 리테일과 물류 기업이 어떻게 AI와 디지털 기술을 활용하고 있는지, 디지털 혁신을 위해 필요한 기술과 활용사례는 무엇인지 살펴보는 자리가 될 것입니다.

  • 일시: 2024년 3월 7일(목) 9:00 ~ 18:00
  • 장소: 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실

관련 글

첫 댓글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다