사이버 괴롭힘을 방지하는 인스타그램 신기능

인스타그램이 사이버불링을 방지하는 또 다른 신기능을 내놓는다. 페이스북과 인스타그램은 과거부터 지속적으로 커뮤니티 가이드라인을 재정비하고 AI로 사이버불링을 방지하는 콘텐츠를 만들어왔다.

인스타그램 커뮤니티 가이드라인 작동 원리

인스타그램에는 ‘커뮤니티 가이드라인’으로 부르는 인스타그램 규칙이 있다. 약관을 따르지 않으면 계정이 비활성화되는 등의 조치를 당한다. 콘텐츠는 기본적으로는 ‘신고하기’와 ‘AI 탐지’를 통해 가이드라인 위반 여부를 판단하게 되는데, 이중 신고하기는 자신의 마음에 들지 않는다는 이유로 악용될 소지가 있다. 따라서 AI가 커뮤니티 가이드라인을 위반하는지 일차적으로 판단한다. 예를 들어 욕설을 썼더라도 친구끼리 쓰이는 말이거나 신조어의 경우 인스타그램이 특별한 조치를 하지 않는다. 만약 AI로도 거르기 어려운 사항이 있다면 모니터링 요원이 이를 판단하게 되는데, 신고자와 피신고자의 계정을 보고 판단하고, 신조어 등에 대해서 교육을 받는 등 복잡한 사안을 거친다고 한다. 신고자와 피신고자의 계정을 굳이 보는 이유는 신고하기 기능을 통해 사이버 괴롭힘을 하고 있는지를 판단하는 것이다.

인스타그램 가이드

만약 자살 암시나 자해 등의 콘텐츠가 발생하면 다른 이들에게 주는 영향을 고려해 게시물을 숨기고 중앙자살예방센터 등으로 연결하는 기능을 넣고 있다. 또한, 디지털 웰니스를 위해 중앙자살예방센터, 스테알라파운데이션, 아이들과미래재단 등을 통해 디지털 웰빙 관련 가이드를 제공한다.

새로운 안전 기능

사이버 괴롭힘 방지를 위해 여러 새로운 기능이 들어갔다. 유튜브나 페이스북의 ‘댓글 숨기기’와 유사한 기능이지만 상대는 전혀 알 수 없다는 특징이 있다.

AI 댓글 관리의 여러 기능

불쾌함을 유발할 것으로 예상되는 댓글을 AI가 걸러낸다. 만약 AI가 거르지 못했다면 필터링 항목에서 스스로 필터링하거나 특정 단어를 무조건 걸러내는 리스트를 만들 수 있다. 또한, 부정적인 댓글을 다는 사용자가 있을 경우 해당 댓글이 상대에게 공격적으로 받아들여질 수 있다는 점을 알려준다.

머신러닝 댓글 필터

AI 필터링과 비슷한 기능이지만 부적절하다고 생각되는 댓글을 사용자가 보기 전 자동으로 걸러주는 기능이다. 특정 종교나 인종을 대상으로 하는 혐오 발언이나 선정적 댓글, 무분별하게 게시되는 광고성 스팸도 제거된다.

제한하기

특정 사용자가 댓글을 달 수는 있지만 다른 사용자들에게 보이지 않는 기능이다. 또한, 이 제한하기에 지정된 사용자가 DM을 보낼 경우 메시지 창이 아닌 메시지 요청 탭으로 자동 이동한다. 제한하기 조치를 당한 사용자에게는 댓글이 똑같이 노출되므로 알 수 없다고 한다.

태그 관리

지속적인 태그는 사이버 괴롭힘의 수단으로 사용될 수 있다. 따라서 특정 사용자가 태그를 하지 못 하게 하거나, 팔로우 계정만 하거나, 전면 금지하는 등으로 설정할 수 있다.

탈퇴 후 계정 도용 방지

신고된 게시물에 대해서 문제가 없다고 생각하는 피신고자는 재검토요청을 할 수 있다. 또한, ㄱ계정을 탈퇴하거나 정지해도 다른 사용자들이 그 계정을 사용하지 못 하도록 하는 기능이 안드로이드 인스타그램에 우선 도입됐다.

피싱 이메일 구분하기

가입 시 계정으로 인스타그램이 공지 등의 메일을 보내게 되는데, 고묘하게 만들어진 피싱 메일과 구분되도록 인스타그램 안에서 공식 메일을 볼 수 있는 기능이 들어갔다.

댓글 고정

세개의 댓글을 상단에 고정해 안 좋은 분위기에 쏠리는 것을 방지한다.

인플루언서들의 생각

패널토론에 참여한 유튜버 겸 인스타그램 인플루언서 다영은 부정적인 댓글이 안 좋은 분위기를 형성해 맥락을 알지 못하고 악플부터 다는 태세에 대해 “첫 댓글에서 안 좋은 댓글이 달리면 신경이 쓰이게 된다. 따라서 고정 댓글은 좋은 기능으로 보인다”며, “온라인에서 팬 밋업을 하고 Q&A를 진행하면 좋지 않은 댓글이 달리고 보는 사용자들도 부정적인 감정을 느낄 수 있다. 따라서 (분위기에 쏠리지 않도록) 선별에서 긍정적인 질문에 답을 하는 편이다”라고 답했다.

수원FC를 통해 현역으로 복귀한 전 국가대표 조원희 선수는 “현재 하고 있는 다양한 활동에 대해 불쾌하다는 악플을 받는다”며 자신과 같은 이유로 많은 선수들이 힘들어하고 있음을 밝혔다. 따라서 “AI를 통한 도움이 필요하다”고 언급했다. 또한, “선수들이 경기력이 안 좋을 때는 인스타그램에서 많은 질타를 받으므로, 소통은 하고 싶지만 두려움을 갖는 경우가 많다”며 인스타그램 활용의 어려움에 대해 밝혔다.

글. 바이라인네트워크
<이종철 기자> jude@byline.network

 

AI 트랜스포메이션을 위한 리테일 테크는 무엇일까

– 리테일 & 로지스 테크 컨퍼런스 2024

리테일 산업은 이제 디지털 산업입니다. 온라인뿐 아니라 오프라인 기업도 디지털 기술을 활용하지 않고서는 생존할 수 없습니다. AI 기술의 발달은 리테일 업계에 새로운 기회와 도전과제를 안겨주었습니다.

생성형 AI, 이커머스 쏠림, D2C 확장, 오프라인 매장의 폐점, 경기 침체, 늘어만 가는 배송 수요 등의 많은 변화 속에서 리테일과 물류, 커머스 업계는 디지털 없이는 변화에 대처할 수 없음을 알고 있습니다.

이에 바이라인네트워크는 리테일&로지스 테크 컨퍼런스 2024를 개최합니다. 리테일과 물류 기업이 어떻게 AI와 디지털 기술을 활용하고 있는지, 디지털 혁신을 위해 필요한 기술과 활용사례는 무엇인지 살펴보는 자리가 될 것입니다.

  • 일시: 2024년 3월 7일(목) 9:00 ~ 18:00
  • 장소: 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실

관련 글

첫 댓글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다