카카오, 게시글 이미지·동영상에도 '세이프봇' 도입한다

AI 이용한 욕설·비속어 차단 기능…"기술 혁신 지속"

경기도 성남시 카카오 판교 아지트. (사진=뉴스1)

[이데일리 한광범 기자] 카카오(035720)가 댓글뿐만 아니라 게시글의 이미지와 동영상 등에도 욕설·비속어 차단 기능인 ‘세이프봇’을 도입할 방침이다.

25일 카카오의 AI 기술·정책 소개 웹매거진 ‘테크 에식스(Tech Ethics)’에 따르면 세이프봇을 총괄하는 김종환 다음개발사업실장은 “현재는 댓글이나 짧은 대화형 콘텐츠에 적용돼 있지만, 게시글 같은 장문 콘텐츠·이미지·동영상 등에도 적용을 확대할 예정”이라고 밝혔다.

김 실장은 “앞으로 욕설이나 혐오 발언뿐만 아니라 정신적, 육체적 피해를 주거나 건전한 토론문화를 저해하는 표현을 사람이 아닌 AI가 100% 판단할 수 있도록 기술 혁신을 지속할 것”이라고 부연했다.

2020년 도입된 세이프봇은 AI기술을 통해 욕설과 비속어 등을 선별한다. 초창기에는 악성 댓글을 신고하는 역할만 하다가 점점 성능을 강화하며 2021년 12월에 ‘욕설 자동 치환’과 ‘욕설·비속어 댓글 자동 가리기’ 기능이 추가됐다.

세이프봇이 도입된 후 카카오 플랫폼에서 욕설 등은 크게 감소했다. 세이프봇 도입 후인 2021년 2022년 월평균 수치를, 도입 이전 2020년 하반기와 비교한 결과 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄었다.

또 욕설이 포함돼 음표로 자동 치환된 댓글 수도 2020년 하반기 대비 2021년과 2022년 각각 53.7%와 63.8% 감소했다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌고, 이용자 신고로 삭제된 욕설 댓글 수도 2020년 하반기와 비교해 보면 2022년에는 12분의 1 수준으로 줄었다.

카카오는 “세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과로 해석된다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링했고, 이용자들이 건전한 댓글 문화 형성에 자발적으로 동참하면서 결과적으로 댓글 공론장의 건강성 향상으로 이어진 것”이라고 분석했다.

카카오는 세이프봇을 개발하며 구축한 60만건의 욕설 데이터베이스(DB)를 한국인터넷자율정책기구(KISO)에 제공했고, KISO는 인터넷 서비스 기업들이 이를 자율적으로 활용할 수 있도록 API(응용프로그램 인터페이스)를 만들어 지난달 공개했다. KISO 회원사와 공공기관 등은 이 시스템을 무료로 이용할 수 있다.

한광범 (totoro@edaily.co.kr)