"AI 기술로 악플 66%↓"…UN서 디지털 안전 성과 발표한 카카오

UN, '테러 목적 ICT 악용에 대한 지침서' 마련 위한 회의 열어
카카오의 디지털 안전 정책·기술 기반 혐오 표현 대응 사례 소개

/사진=카카오

카카오가 UN(국제연합)본부 회의에서 AI(인공지능) 등 기술로 유해 콘텐츠나 혐오 표현에 대응한 사례를 발표했다. UN의 '테러 목적의 ICT 악용에 대한 지침서' 작성에 참고하기 위해 초청받은 것이다.

카카오는 10일 미국 뉴욕 UN 본부에서 열린 'UN 대테러사무국-테크 기업 협의 회의'에서 디지털 안전을 위한 정책과 사례를 발표했다고 밝혔다. 회의는 테러 목적의 ICT 악용에 대한 예방 및 대응을 위한 비구속적 지침서를 만들고자 UN 안전보장이사회(안보리) 산하 대테러사무국에서 마련했다. 참석자들은 ICT 산업 내 디지털 안전을 위한 기업들의 모범 사례 공유, 지침서 마련과 관련된 의견 수립 및 발전 방향 등을 논의했다.

카카오는 온라인으로 참여해 △유해 콘텐츠 유통을 막는 디지털 안전 정책 △AI 등 기술을 통한 선제적 대응 사례 △혐오 표현 대응을 위한 시민사회 협력 모델 등을 소개했다.

카카오는 특히 AI기술이 적용된 '세이프봇' 사례를 강조했다. 세이프봇은 카카오 서비스 내에서 게시물 운영정책을 위반한 콘텐츠를 AI 기술로 분석해 자동으로 필터링하는 기능이다. 2020년 뉴스 댓글 서비스에 적용된 이후 포털 다음과 카카오뷰 등에 적용 중이다. 카카오는 세이프봇 도입 후 악성 댓글이 기존 3분의 1수준으로 낮아졌다고 밝혔다.

시민단체, 학계 등과 함께 제작한 증오발언 '코딩북(Coding Book)'도 소개됐다. 카카오는 국가인권위, 학계 전문가, 시민단체 등과 협력해 2021년 '증오발언 근절을 위한 카카오의 원칙'을 제정했다. 이를 바탕으로 제작된 코딩북에는 AI기술을 활용해 증오발언에 대응하기 위한 명확하고 구체적인 판별 기준과 이에 기반한 학습 데이터가 담겨있다.

이같은 대응 속에서 표현의 자유를 보장하고 이용자 권리 침해를 최소화하기 위해 발행 중인 '투명성 보고서'도 공유했다.

김대원 카카오 정책팀장은 "이번 회의에 참석해 안전한 디지털 세상을 만들기 위한 카카오의 다양한 활동을 글로벌 테크 기업들 및 UN과 공유할 수 있었다"며 "카카오는 앞으로도 IT기업이 갖춰야 할 사회적 책임을 이행해가며, 디지털 생태계의 건강성을 위해 꾸준히 노력할 것"이라고 전했다.

한편, UN 대테러사무국은 이번 회의와 시민사회 및 학계 협의 내용을 토대로 지침서를 작성하고, 안보리 대테러사무국의 승인을 거쳐 발간할 예정이다.

배한님 기자 bhn25@mt.co.kr