AI가 사용자 ‘입단속’…데이팅 앱 틴더, ‘언행 경고’ 기능 추가

세계 1위의 글로벌 데이팅 앱 틴더가 6일 인공지능(AI)으로 사용자의 부적절한 언행을 감지해 경고하는 기능을 추가했다.

이번 기능은 실시간 기계학습(머신러닝), 첨단 기술 모니터링, 인적 검증 시스템을 통해 제작됐다.

이에 따라 틴더 앱은 사용자가 타인에게 메시지를 보낼 때 해당 메시지 내용의 커뮤니티 지침 위반 사항을 사전에 감지한다.

지침 위반은 메시지를 통한 성희롱, 괴롭힘, 스토킹 등 사이버상 언어폭력에 해당하는 것으로 전해진다.

이후 해당 사용자에게 “이 메시지가 불편하신가요?”나 “정말 이 메시지를 보내시겠습니까?” 등의 팝업 경고 메시지를 전달한다.

이와 함께 커뮤니티 지침 위반 사항에 대한 설명 및 전송 후 사용자가 받을 수 있는 예상 조치 관련 정보도 함께 안내한다.

사용자는 지침 위반 메시지로 경고를 받을 수 있으며, 경고를 부과받으면 해당 경고는 삭제할 수 없는 메시지로 남는다.

해당 메시지는 위반 행위로 집계되며 반복 및 누적 시 해당 사용자는 프로필 삭제 조치를 당할 수 있다.

틴더는 해당 기능을 향후 몇 주 안에 적용할 예정이다.

이번 기능 추가에 대해 틴더 측은 “사용자들에게 기대되는 태도의 틀을 제공하기 위한 것”이라 설명했다.

이어 “사용자가 즉각적으로 자신의 언행을 돌아보고 실수할 경우 바로잡을 기회를 제공하는 것을 목표로 한다”라고 덧붙였다.

그러면서 “사용자들끼리 소통하는 상황에서 괴롭힘을 방지하고 광고나 사칭으로부터 사용자를 보호할 수 있을 것”이라 전망했다.

한편 틴더는 지난 2012년 출시된 데이팅 앱으로 세계 190개국에서 사용되며 이용자 수 또한 미국과 한국 각국에서 1위를 기록하고 있다.

현지용 온라인 뉴스 기자 hjy@segye.com

세계일보