네이버, 악성 댓글 폭주하면 '클린봇'이 뉴스 댓글창 내린다

-악성 댓글 일정 기준 초과 시 댓글창 자동 비활성화 정책 시행
-AI 클린봇 탐지 범위 확대 및 이달 말 모델 업그레이드 예정
-혐오·차별 표현 차단 강화로 건강한 뉴스 소통 환경 조성
-재난·부고 기사 내 ‘추모 댓글’ 활성화로 2차 피해 방지 주력

사진=네이버

네이버가 건전한 댓글 문화를 조성하기 위해 뉴스 악성 댓글 차단하는 시스템을 강화했다.

네이버는 23일부터 악성 댓글이 일정 기준을 초과한 기사의 댓글 서비스를 자동으로 비활성화하는 정책을 시행한다고 이날 밝혔다.

정치, 선거 등을 포함한 모든 섹션 기사에 인공지능 기반 탐지시스템 '클린봇'을 적용해 악성 댓글을 실시간으로 탐지한다는 것.

악성 댓글 수가 네이버 내부 기준을 초과할 경우 댓글 창이 아예 닫히는 방식이다.

'클린봇이 악성 댓글을 다수 탐지하여 댓글 서비스를 제공하지 않습니다'라는 안내 문구와 '그린인터넷' 캠페인 배너가 함께 노출된다.

클린봇은 네이버가 지난 2019년 업계 최초로 선보인 인공지능 기반 악성 댓글 탐지 시스템이다.

네이버는 그동안 욕설, 선정성, 폭력적 표현에 국한됐던 차단 범위를 혐오, 비하, 차별 표현 등으로 꾸준히 업데이트하며 기술을 고도화 해 왔다.

이달 말에는 AI 클린봇 모델 업그레이드를 앞두고 있다.

한편, 네이버는 지난 2월부터 재해·재난·부고 기사에서 발생할 수 있는 2차 피해를 예방하기 위해 '추모 댓글' 기능을 운영 중이다.

현재까지 약 23개 언론사가 이 기능을 도입했다. 이용자들은 간편한 버튼 클릭만으로 '삼가 고인의 명복을 빕니다'라는 메시지로 애도의 뜻을 표하고 있다.

지난 4월 분석 결과에 따르면, 추모 댓글이 적용된 기사는 동일 언론사의 일반 기사보다 조회수 대비 댓글 수가 약 6배 이상 높게 나타나는 등 이용자들의 참여를 끌어내고 있다.

윤석진 머니투데이방송 MTN 기자