"피해자, 유족 조롱, 혐오 댓글 집중 차단" 네이버 'AI 클린봇' 업그레이드

생명 경시, 2차 가해 표현 탐지 기능 강화
기사 제목·본문 종합해 악성 댓글 탐지해

[미디어오늘 윤유경 기자]

▲디자인=이우림 기자.

네이버가 기사 전체 맥락을 파악해 악성 댓글을 차단할 수 있도록 인공지능(AI) 기반 악성 댓글 탐지 시스템을 고도화했다. 생명 경시를 조장하는 댓글과 유족을 향한 조롱·혐오성 댓글도 집중 차단한다.

네이버는 지난 29일 생명 경시와 2차 가해 표현 탐지 기능을 강화한 악성 댓글 탐지 시스템 'AI 클린봇 3.0'의 업그레이드를 완료했다고 밝혔다. 이번 업그레이드를 통해 네이버는 자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글, 사건·사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다.

기사 맥락과 결합해 악성 댓글 탐지 능력을 높인 점도 특징이다. 네이버는 뉴스 댓글 내용뿐 아니라 기사 제목과 본문을 종합해 악성 댓글을 탐지할 수 있도록 했다. 맥락에 따라 댓글의 악의적 의도를 보다 정확하게 가려내기 위한 장치다.

▲ 네이버 AI 클린봇 3.0. 사진=네이버 제공.

2019년 처음 등장한 'AI 클린봇'은 댓글 서비스 전반의 기술적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 꾸준히 업그레이드를 거듭해왔다. 초기에는 악성 키워드를 기반으로 욕설과 비속어를 걸러내는 수준이었으나, 2020년부터는 문장의 맥락을 파악해 욕설이 없어도 모욕적인 표현을 찾아내는 수준으로 향상됐다. 이후 성적 불쾌감 유발이나 혐오, 비하, 차별 표현, 기호를 활용한 우회 악성 댓글 등을 막아내기 위해 지속적으로 정확도를 높여왔다.

네이버는 건전한 댓글 문화 조성을 위한 노력을 이어가고 있다. 지난 3월에는 6·3 지방선거를 앞두고 정치, 선거 섹션 기사 본문 하단의 댓글창을 닫아놓기로 했다. 지난 23일부터는 악성 댓글이 일정 기준을 초과한 기사에 대해 댓글 서비스를 자동으로 비활성화하는 정책을 시행 중이다. 정치, 선거 섹션을 포함해 모든 섹션 기사를 대상으로 클린봇이 작동해 악성 댓글을 탐지한다.

김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정”이라고 밝혔다.