인스타그램이 사이버불링을 방지하는 또 다른 신기능을 내놓는다. 페이스북과 인스타그램은 과거부터 지속적으로 커뮤니티 가이드라인을 재정비하고 AI로 사이버불링을 방지하는 콘텐츠를 만들어왔다.

인스타그램 커뮤니티 가이드라인 작동 원리

인스타그램에는 ‘커뮤니티 가이드라인’으로 부르는 인스타그램 규칙이 있다. 약관을 따르지 않으면 계정이 비활성화되는 등의 조치를 당한다. 콘텐츠는 기본적으로는 ‘신고하기’와 ‘AI 탐지’를 통해 가이드라인 위반 여부를 판단하게 되는데, 이중 신고하기는 자신의 마음에 들지 않는다는 이유로 악용될 소지가 있다. 따라서 AI가 커뮤니티 가이드라인을 위반하는지 일차적으로 판단한다. 예를 들어 욕설을 썼더라도 친구끼리 쓰이는 말이거나 신조어의 경우 인스타그램이 특별한 조치를 하지 않는다. 만약 AI로도 거르기 어려운 사항이 있다면 모니터링 요원이 이를 판단하게 되는데, 신고자와 피신고자의 계정을 보고 판단하고, 신조어 등에 대해서 교육을 받는 등 복잡한 사안을 거친다고 한다. 신고자와 피신고자의 계정을 굳이 보는 이유는 신고하기 기능을 통해 사이버 괴롭힘을 하고 있는지를 판단하는 것이다.

인스타그램 가이드

만약 자살 암시나 자해 등의 콘텐츠가 발생하면 다른 이들에게 주는 영향을 고려해 게시물을 숨기고 중앙자살예방센터 등으로 연결하는 기능을 넣고 있다. 또한, 디지털 웰니스를 위해 중앙자살예방센터, 스테알라파운데이션, 아이들과미래재단 등을 통해 디지털 웰빙 관련 가이드를 제공한다.

새로운 안전 기능

사이버 괴롭힘 방지를 위해 여러 새로운 기능이 들어갔다. 유튜브나 페이스북의 ‘댓글 숨기기’와 유사한 기능이지만 상대는 전혀 알 수 없다는 특징이 있다.

AI 댓글 관리의 여러 기능

불쾌함을 유발할 것으로 예상되는 댓글을 AI가 걸러낸다. 만약 AI가 거르지 못했다면 필터링 항목에서 스스로 필터링하거나 특정 단어를 무조건 걸러내는 리스트를 만들 수 있다. 또한, 부정적인 댓글을 다는 사용자가 있을 경우 해당 댓글이 상대에게 공격적으로 받아들여질 수 있다는 점을 알려준다.

머신러닝 댓글 필터

AI 필터링과 비슷한 기능이지만 부적절하다고 생각되는 댓글을 사용자가 보기 전 자동으로 걸러주는 기능이다. 특정 종교나 인종을 대상으로 하는 혐오 발언이나 선정적 댓글, 무분별하게 게시되는 광고성 스팸도 제거된다.

제한하기

특정 사용자가 댓글을 달 수는 있지만 다른 사용자들에게 보이지 않는 기능이다. 또한, 이 제한하기에 지정된 사용자가 DM을 보낼 경우 메시지 창이 아닌 메시지 요청 탭으로 자동 이동한다. 제한하기 조치를 당한 사용자에게는 댓글이 똑같이 노출되므로 알 수 없다고 한다.

태그 관리

지속적인 태그는 사이버 괴롭힘의 수단으로 사용될 수 있다. 따라서 특정 사용자가 태그를 하지 못 하게 하거나, 팔로우 계정만 하거나, 전면 금지하는 등으로 설정할 수 있다.

탈퇴 후 계정 도용 방지

신고된 게시물에 대해서 문제가 없다고 생각하는 피신고자는 재검토요청을 할 수 있다. 또한, ㄱ계정을 탈퇴하거나 정지해도 다른 사용자들이 그 계정을 사용하지 못 하도록 하는 기능이 안드로이드 인스타그램에 우선 도입됐다.

피싱 이메일 구분하기

가입 시 계정으로 인스타그램이 공지 등의 메일을 보내게 되는데, 고묘하게 만들어진 피싱 메일과 구분되도록 인스타그램 안에서 공식 메일을 볼 수 있는 기능이 들어갔다.

댓글 고정

세개의 댓글을 상단에 고정해 안 좋은 분위기에 쏠리는 것을 방지한다.

인플루언서들의 생각

패널토론에 참여한 유튜버 겸 인스타그램 인플루언서 다영은 부정적인 댓글이 안 좋은 분위기를 형성해 맥락을 알지 못하고 악플부터 다는 태세에 대해 “첫 댓글에서 안 좋은 댓글이 달리면 신경이 쓰이게 된다. 따라서 고정 댓글은 좋은 기능으로 보인다”며, “온라인에서 팬 밋업을 하고 Q&A를 진행하면 좋지 않은 댓글이 달리고 보는 사용자들도 부정적인 감정을 느낄 수 있다. 따라서 (분위기에 쏠리지 않도록) 선별에서 긍정적인 질문에 답을 하는 편이다”라고 답했다.

수원FC를 통해 현역으로 복귀한 전 국가대표 조원희 선수는 “현재 하고 있는 다양한 활동에 대해 불쾌하다는 악플을 받는다”며 자신과 같은 이유로 많은 선수들이 힘들어하고 있음을 밝혔다. 따라서 “AI를 통한 도움이 필요하다”고 언급했다. 또한, “선수들이 경기력이 안 좋을 때는 인스타그램에서 많은 질타를 받으므로, 소통은 하고 싶지만 두려움을 갖는 경우가 많다”며 인스타그램 활용의 어려움에 대해 밝혔다.

글. 바이라인네트워크
<이종철 기자> jude@byline.network