'AI 감시견'에 악플 확 줄었다…"법적책임" 문구에 경각심↑

[머니투데이 윤지혜 기자]

/사진=네이버

AI 기반으로 악성댓글을 탐지하는 'AI 클린봇' 적용 후 네이버(NAVER)에 악성댓글을 쓰는 비율과 노출되는 비율 모두 감소했다.

30일 네이버 다이어리에 따르면 올해 전체 댓글 중 악플 비율(악플생성비율)은 16.7%로, 클린봇이 도입되기 전인 2019년 대비 8.1%p(포인트) 줄어든 것으로 나타났다. 전체 댓글 중 AI 클린봇이 미처 탐지하지 못해 대중에 공개된 악플 비율은 8.9%로 약 3분의 1수준으로 감소했다.

그러나 여전히 악플은 사회적 문제다. 특히 지난해 이태원 참사 이후 희생자와 유가족을 향한 악성댓글과 가짜뉴스가 쏟아졌다.

이에 네이버는 혐오·비하·차별 표현에 대한 학습을 강화해 AI 클린봇의 탐지기술을 고도화했다. 조만간 언론사가 AI 클린봇 탐지 강도를 직접 설정하고, 이태원 참사처럼 악성댓글이 증가할 경우 댓글 기능을 꺼둘 수 있도록 별도 알림을 제공하는 기능도 지원할 예정이다.

/사진=네이버

또 댓글 창에 "모든 작성자는 본인이 작성한 의견에 대해 법적 책임을 갖는다"는 경고문구를 띄워 이용자가 경각심을 갖도록 했다.

올 상반기엔 댓글 작성자 프로필에 관심분야와 댓글 이용제한 상태도 표시한다. 댓글 이용제한 해제시 기존엔 곧바로 활동을 재개할 수 있었으나, 앞으론 온라인 공간에서 상호 존중과 배려를 숙지할 수 있는 별도 절차를 마련할 예정이다.

네이버는 "2023년 근거없고 무차별적인 혐오·비하·차별 표현 근절을 위해 더 많은 노력을 기울일 것"이라며 "네이버의 노력과 결과물을 오픈하고 이용자 참여를 유도하고 외부 요청에 따른 처리 현황을 공유하기 위해 그린인터넷 페이지 개선도 앞두고 있다"라고 설명했다.

윤지혜 기자 yoonjie@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지