[AI픽] 네이버, 악성 댓글 잡는 'AI 클린봇 3.0' 업그레이드

기사 맥락까지 반영해 생명 경시·혐오 댓글 탐지

(서울=연합뉴스) 한상용 기자 = 네이버는 악성 댓글 탐지 시스템 'AI 클린봇 3.0' 업그레이드를 완료했다고 29일 밝혔다.

AI 클린봇 3.0 모델은 댓글 내용뿐만 아니라 기사 제목과 본문까지 종합적으로 분석해 악성 댓글을 탐지하도록 고도화된 것이 특징이다.

네이버는 이번 업그레이드를 통해 자살과 사망, 신체 훼손 등과 관련해 생명 경시를 조장하는 댓글, 사건·사고 피해자와 유족을 향한 조롱, 비하, 혐오성 댓글을 집중적으로 차단할 계획이다.

또한 기사 맥락에 따라 댓글에 담긴 악의적 의도까지 탐지할 수 있도록 모델 최적화 과정을 거쳤다고 설명했다.

2019년 출시된 AI 클린봇은 댓글 서비스 전반의 기술적·정책적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위와 정확도를 지속해서 높여 왔다.

초기에는 악성 키워드를 기반으로 욕설과 비속어를 자동 탐지하는 수준이었지만 2020년에는 '문장 맥락'으로 악성 댓글 판단 기준을 확대해 욕설이 없더라도 모욕적 표현을 탐지할 수 있도록 했다.

이와 함께 네이버는 성적 불쾌감을 유발하는 표현과 혐오, 비하, 차별 표현, 기호와 문자를 활용한 우회 악플 등을 막아 내기 위한 업그레이드도 지속해 왔다.

김수향 네이버 리더는 "생명 경시 조장과 피해자, 유족 조롱, 혐오 표현 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화하겠다"고 말했다.

gogo213@yna.co.kr

▶제보는 카톡 okjebo

사회