네이버 AI클린봇, 욕설-성적표현 걸러낸다

김미희 입력 2021. 1. 29. 16:43
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

네이버는 인공지능(AI) 기반 악성댓글 차단프로그램 'AI클린봇'이 욕설 뿐 아니라 과도한 성적표현까지 찾아서 차단하도록 업그레이드 됐다고 29일 밝혔다.

이번에 업그레이드 된 AI클린봇은 네이버 뉴스댓글 뿐 아니라 방송톡과 네이버TV 댓글에도 적용된다.

또 과도한 성적표현에 대한 AI학습도 반영, 성적 불쾌감을 일으킬 수 있는 수준의 표현들을 차단했다는 설명이다.

일례로 직·간접적인 성적 행위나 특정부위 표현들에 대해서는 AI클린봇이 자동으로 차단한다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

AI클린봇 처리 범위와 정확도 업그레이드

[파이낸셜뉴스] 네이버는 인공지능(AI) 기반 악성댓글 차단프로그램 ‘AI클린봇’이 욕설 뿐 아니라 과도한 성적표현까지 찾아서 차단하도록 업그레이드 됐다고 29일 밝혔다.

이번에 업그레이드 된 AI클린봇은 네이버 뉴스댓글 뿐 아니라 방송톡과 네이버TV 댓글에도 적용된다.

AI클린봇은 기존에 학습된 데이터를 포함해 약 1억6000만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했다. 이를 통해 기존대비 정확도가 약 15% 가량 향상된 것으로 나타났다.

또 과도한 성적표현에 대한 AI학습도 반영, 성적 불쾌감을 일으킬 수 있는 수준의 표현들을 차단했다는 설명이다. 일례로 직·간접적인 성적 행위나 특정부위 표현들에 대해서는 AI클린봇이 자동으로 차단한다.

네이버 'AI 클린봇' 적용화면. 네이버 제공

네이버 측은 “보다 높은 책임의식을 가지고 악성댓글 차단 및 불법촬영물 2차 피해 방지에 최선의 노력을 진행하겠다”고 전했다.

#불법촬영물 #악성댓글 #클린봇
elikim@fnnews.com 김미희 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

Copyright© 파이낸셜뉴스. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?