네이버, 악성 댓글 탐지·차단 위한 ‘AI 클린봇 3.0’ 업그레이드 완료
네이버가 악성 댓글 근절을 위해 기사 전반의 맥락을 반영하는 방향으로 댓글 감지 시스템을 업그레이드했다.
네이버는 생명 경시 및 2차 가해 표현 탐지를 집중 강화한 악성 댓글 탐지 시스템 ‘AI클린봇 3.0’ 업그레이드를 완료했다고 29일 밝혔다.
이번 업그레이드로 네이버는 ▲자살, 사망, 신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 ▲사건, 사고 피해자 및 유족을 향한 조롱, 비하, 혐오성 댓글을 집중 차단한다.
업그레이드된 3.0 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화했다. 클린봇은 댓글 내용 뿐만 아니라 기사 제목과 본문을 종합 탐색해, 맥락에 따라 악성 댓글을 탐지할 수 있도록 지속적으로 최적화 과정을 거쳐 고도화됐다. 네이버는 2019년 악성 키워드 기반 AI 클린봇을 처음 선보인 후 2020년에는 문장 맥락을 반영, 2023년에는 KISO(한국인터넷자율정책기구) 혐오표
네이버 김수향 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다”라고 밝혔다.
글. 바이라인네트워크
<성아인 기자> aing8@byline.network
