네이버, AI로 악성댓글 줄였다…“혐오표현 근절”

악플노출 비율 전년 대비 4.6%p 감소한 8.9%

네이버 AI클린봇을 도입한 2019년부터 2023년까지 악플 생성비율과 악플 노출비율 추이. ⓒ네이버

네이버가 지난 2019년 도입한 인공지능(AI) 기반 악성댓글 탐지 'AI클린봇'이 악성댓글을 유의미하게 줄인 것으로 나타났다.

30일 네이버에 따르면 올해 악플 생성비율은 16.7%로, 전년 대비 1.9%포인트 하락했다. 악플 노출비율은 8.9%로 같은 기간 4.6%포인트 줄었다.

지난 2019년과 비교하면 감소폭은 더욱 크다. 당해 악플생성과 악플노출 비율은 각각 24.8%, 21.9%로, 현재까지 8.1%포인트, 13%포인트 감소했다. AI클린봇 도입 이후 지속적으로 고도화시킨 결과다.

다만 네이버는 “그럼에도 불구하고 작년 이태원 참사 이후, 합리적 근거 없이 누군가의 존엄성을 위협하거나 권리를 침해하고, 편견을 조장하거나 배척하는 내용들이 증가하면서 다시금 사회적 문제로 떠오르고 있다”며 “올해 근거없고 무차별적인 혐오·비하·차별 표현 근절을 위해 더 많은 노력을 기울이겠다”고 전했다.

실제로 네이버는 최근 공적 대상에 대한 댓글 영역에서의 특정 표현이 ‘모욕죄’로 인정된 만큼 각 개인의 법적 책임에 대한 문구를 추가해 사전고지 영역을 강화했다.

상반기 중으로는 댓글 작성자 활동성이 좀 더 명확하게 드러나도록 관심 분야 정보를 노출하고, 작성자의 댓글 이용 제한 상태를 표시하는 등 프로필 영역을 강화할 예정이다. 댓글 이용 제한 해제 시 기존과 같이 바로 활동이 재개되는 것이 아니라, 타인의 권리 보호와 이용 규칙은 물론 온라인 공간에서의 상호 존중과 배려를 숙지할 있는 절차도 마련한다.

아울러 네이버는 언론사별로 클린봇 탐지 강도를 직접 설정하고, 악성 댓글이 증가할 경우 별도 알림 등을 통해 빠르게 댓글 오프(OFF) 여부를 결정할 수 있도록 신규 기능을 지원할 계획이다.