네이버, ‘AI 클린봇 3.0’ 고도화…악성 댓글 차단 강화

생명 경시 조장, 사고 피해자, 유족 혐오성 댓글 집중 차단
맥락에 따라 정확하게 악의적 의도 탐지

고도화된 AI클린봇 이미지 [네이버 제공]

[헤럴드경제=박혜림 기자] 네이버㈜가 악성 댓글 차단을 위해 인공지능(AI) 기반 필터링 기술을 고도화한다. 단순 욕설을 넘어 생명 경시와 2차 가해까지 탐지 범위를 넓히며 댓글 환경 관리에 나선 것이다.

네이버는 29일 악성 댓글 탐지 시스템 ‘AI 클린봇 3.0’ 업그레이드를 완료했다고 밝혔다. 이번 개편은 생명 경시 표현과 사건·사고 피해자를 향한 2차 가해성 댓글 차단에 초점을 맞췄다.

강화된 시스템은 자살, 사망, 신체 훼손 등을 조장하는 표현과 피해자 및 유족을 대상으로 한 조롱·비하·혐오성 댓글을 우선적으로 걸러낸다. 기존 욕설·비속어 중심 탐지에서 한 단계 더 나아간 조치다.

특히 이번 버전에서는 댓글 내용뿐 아니라 기사 제목과 본문까지 함께 분석하는 ‘맥락 기반 탐지’ 기능이 강화됐다. 같은 표현이라도 기사 내용에 따라 악의적 의도를 판단할 수 있도록 모델을 고도화한 것이 특징이다.

네이버 사옥 [사진 네이버]

클린봇은 2019년 처음 도입된 이후 지속적으로 진화해왔다. 초기에는 특정 키워드를 기반으로 욕설을 걸러내는 수준이었지만, 2020년부터 문장 맥락을 반영해 욕설이 없는 모욕적 표현까지 탐지 범위를 확대했다. 이후 성적 불쾌감 유발 표현, 혐오·차별 발언, 기호를 활용한 우회 표현 등으로 대응 영역을 넓혀왔다.

네이버는 정책적 대응도 병행하고 있다. 2023년에는 한국인터넷자율정책기구의 혐오표현 가이드라인을 반영했고, 올해는 정치·선거 관련 기사에서 댓글 기능을 제공하지 않는 조치를 시행 중이다. 악성 댓글 비율이 일정 수준을 넘는 기사에 대해서는 댓글 서비스를 자동으로 중단하는 기능도 운영하고 있다.

김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다”라고 말했다.