"카카오에선 욕설 표현 안 보여요"...AI로 자동 필터링했더니 악성 댓글 63% 감소

2020년 12월 욕설을 음표로 바꾸는 기능 도입
이용자 스스로 욕설 표현 자제…건전한 댓글 문화

포털 다음 및 카카오톡 뉴스 댓글에 달린 악성 댓글이 인공지능(AI) 필터링 기술 도입 후 2년 만에 3분의 1 수준으로 줄었다. AI가 자동으로 욕설이나 비속어를 음표(♪) 표시로 바꾸자 이용자들이 스스로 악성 댓글을 덜 단 결과로 풀이된다.

카카오는 14일 AI 기반 댓글 필터링 기능인 '세이프봇'의 성과 분석 결과를 공개했다. 카카오는 2020년 12월 욕설·비속어를 포함하거나 게시물 운영 정책을 어긴 댓글을 AI 기술로 분석해 자동으로 필터링하는 세이프봇을 도입했다. 세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021, 2022년 월평균 수치를 비교한 결과, 욕설이 포함돼 음표로 자동 치환된 댓글 수는 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소했다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 이용자의 신고에 의해 삭제된 욕설 댓글은 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.

카카오 측은 세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과라고 해석했다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 뜻을 함께한 것이란 설명이다. 이에 따라 댓글 공론장의 건강성도 커졌다.

카카오는 AI 기술을 고도화해 세이프봇의 성능을 강화하겠다는 목표를 세웠다. 내년 상반기에는 욕설이나 비속어를 넘어 증오 발언까지 판별하는 AI 기능을 추가할 계획이다.

김종한 카카오 다음사업개발실장은 "카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다"며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있게 관련 기술 수준을 높이기 위해 노력할 것"이라고 말했다.

안하늘 기자 ahn708@hankookilbo.com