욕설 댓글 알아서 막는 '세이프봇'…유엔 행사서 선보인 카카오 AI 기술

세이프봇 도입 후 유해정보 95% 감소

(서울=뉴스1) 손엄지 기자 = 카카오(035720)가 유엔 행사에서 인권경영을 위한 인공지능(AI) 기술 활용 사례를 소개했다.

카카오는 지난 13~14일(현지시간) 몽골 울란바토르에서 열린 유엔 인권최고대표사무소 'OHCHR' 동북아시아 기업과 인권 워크숍에 참석해 인권경영 사례들을 발표했다고 15일 밝혔다.

하진화 카카오 CA협의체 환경·사회·지배구조(ESG)위원회 정책팀 프로젝트리더는 △인권경영을 위한 기술 내재화 정책·사례 △광고 윤리 △기술과 서비스의 포용성 △협력사의 지속가능경영 지원 등을 발표했다.

디지털 공간 안에서 누구나 건강하고 안전하게 소통할 수 있도록 돕는 '세이프봇'이 소개됐다. 욕설, 비속어가 포함되거나 게시물 운영 정책 위반 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다.

2020년 하반기 세이프봇을 도입한 후 이용자에 의해 신고·삭제된 뉴스 서비스 댓글 수 기준으로 유해정보 규모가 94.7% 감소하는 등 성과를 보였다.

카카오는 광고·콘텐츠 분야에서도 윤리 정책과 프로세스를 마련했다. 광고 메시지 내 비속어, 혐오표현 등을 필터링하고 연령 인증 기술을 도입해 청소년 디지털 안전 보장에 힘썼다.

기술과 서비스의 포용성을 강화하기 위한 사례로는 '카카오 접근성 서포터즈'와 '무장애 나눔길'을 소개했다. '카카오 접근성 서포터즈'는 장애인 이용자와 직접 소통하면서 서비스 개선을 논의하는 협력체다.

eom@news1.kr

IT