네이버, 카페 댓글에 클린봇 적용…부적절한 표현 자동 숨김

네이버는 안전한 서비스 이용 환경을 조성하기 위해 기존 카페 이웃 서비스 영역에 적용됐던 클린봇을 카페 댓글 영역까지 확대했다. 클린봇에 의해 부적절한 표현이 감지된 댓글과 대댓글은 자동으로 숨김처리되며, 사용자가 직접 클린봇 설정을 해제해야만 댓글 내용을 확인할 수 있다.

향후에는 댓글 등록 시점에 댓글 내 욕설, 비하, 혐오 등 부적절한 표현이 감지될 경우 댓글 수정을 권고하는 팝업 안내도 노출한다. 악성 댓글을 사전에 방지하고 사용자 인식도 제고할 예정이다.

네이버는 19년부터 AI 기술을 이용해 자동으로 악플을 탐지하는 클린봇을 운영하며 지속적으로 고도화하고 있다. 네이버의 AI 클린봇은 댓글을 읽는 사용자에게 불쾌감과 혐오감을 수 있는 비속어를 자동으로 탐지해 블라인드 처리한다. 문장 맥락을 분석해 정교하게 악성 댓글을 탐지하는 것이 특징이다.

네이버는 안전한 서비스 환경을 제공하기 위해 클린봇을 네이버 뉴스, 스포츠, 웹툰, 오픈톡, 치지직 등 다양한 서비스에 확대 적용하고 있으며, 클린봇 적용 범위와 탐지 정확성을 높여 사용자 보호에 적극 나설 계획이다.

네이버 관계자는 “네이버 카페 사용자가 안전한 환경에서 서비스를 이용하고 카페 멤버와 안전하게 소통할 수 있도록 댓글 영역에도 클린봇을 적용했다”며 “클린봇 기술을 지속적으로 고도화해 네이버 서비스 내 적용 범위를 확대할 계획”이라고 말했다.

손지혜 기자 jh@etnews.com