다음 "세이프봇, 댓글뿐 아니라 이미지·영상으로 적용 확대"

욕설뿐 아니라 증오 표현 가려내는 기능 탑재도 검토

댓글 [연합뉴스TV 제공]

(서울=연합뉴스) 홍국기 기자 = 카카오가 인공지능(AI) 기반 댓글 필터링 기능인 '세이프봇'의 적용 범위를 장문의 콘텐츠와 이미지·영상으로 확대할 방침이다.

25일 카카오의 AI 기술·정책 소개 웹매거진 '테크 에식스'(Tech Ethics)에 따르면 세이프봇을 총괄하는 김종환 다음개발사업실장은 "앞으로 욕설이나 혐오 발언뿐 아니라 정신적·육체적 피해를 주거나 건전한 토론 문화를 저해하는 표현을 사람이 아닌 AI가 100% 판단할 수 있도록 기술 혁신을 지속할 것"이라며 이 같은 계획을 밝혔다.

2020년 12월 포털 다음의 댓글에 처음 적용된 세이프봇은 욕설과 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다.

욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글이 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

세이프봇 적용 전인 2020년 하반기와 적용 이후인 지난해 월평균 수치를 비교한 결과 욕설이나 비속어가 포함된 댓글이 3분의 2 수준인 63.8%나 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 작년 2.4%로 낮아졌다.

세이프봇은 포털 다음이 지난달 도입한 실시간 채팅형 댓글 서비스 '타임톡'에도 적용 중이다.

카카오는 "기존 댓글과 달리, 이용자 사이에 실시간 소통하듯 채팅형으로 댓글이 보이기 때문에 댓글 관리도 더욱 중요해졌다"면서 "검증된 세이프봇이 타임톡에 기본으로 적용됐다"고 설명했다.

아울러 카카오는 세이프봇을 개발하며 구축한 60만건의 욕설 데이터베이스(DB)를 한국인터넷자율정책기구(KISO)에 제공했고, KISO는 인터넷 서비스 기업들이 이를 자율적으로 활용할 수 있도록 API(응용프로그램 인터페이스)를 만들어 지난달 공개했다. KISO 회원사와 공공기관 등은 이 시스템을 무료로 이용할 수 있다.

이 밖에 카카오는 세이프봇이 욕설뿐 아니라 특정 집단이나 성별, 지역 등을 겨냥한 증오 표현도 정교하게 가려낼 수 있도록 각계 전문가와 함께 '코딩북'을 제작 중이다.

코딩북은 수집한 데이터를 분석할 수 있는 형태로 변환할 때 참고하는 원칙, 판단 기준 등을 담은 지침서로, 세이프봇에 탑재하는 방안도 검토되고 있다고 카카오는 소개했다.

redflag@yna.co.kr

▶제보는 카톡 okjebo