‘19금 사진’ 보내면 알아서 모자이크…사기 프사도 척척 걸러낸다

美범블, 스팸과 사기 프로필 걸러내는
‘사기 탐지자’ 프로그램으로 95% 차단
가짜 프로필로 돈 요구하고 금융사기
‘로맨스 스캠’ 기승에 데이팅앱 고심

미국의 인기 데이팅앱 범블. <사진=범블>

미국의 대표적인 데이팅 앱인 범블이 인공지능(AI)를 통해 상대방의 가짜 프로필과 사기 가능성을 탐지하는 기능을 출시했다.

5일(현지시간) 범블은 회사 블로그를 통해 “스팸과 사기 프로필을 걸러내는 ‘사기 탐지자(Deception Detector)’를 출시했다”고 밝혔다.

범블의 테스트에 따르면 스팸, 사기 프로필로 확인된 계정 중 95%가 이 기능으로 자동 차단될 수 있었다. 사기 탐지는 인간 모더레이터가 참여해서 같이 운영한다.

범블에 따르면 온라인 데이트에서 가장 사람들이 두려워하는 것은 가짜 프로필과 사기다. 범블의 2023년 국가현황 보고서에 따르면 설문에 참여한 여성의 46%가 온라인 데이트에서 가장 큰 문제는 온라인 앱에서 대화하는 상대방이 ‘진짜’ 그 사람인지 알 수 없다는 것이었다.

범블은 이외에도 서비스에서 다양한 인공지능이 사용되고 있다고 설명했다. 채팅에서 누드 이미지를 보낼 경우 자동으로 흐리게 처리되는 ‘프라이버시 탐지자’가 대표적이다. 누드 이미지가 전송되면 알림과 함께 해당 이미지를 볼 지 차단할 지는 사용자가 결정할 수 있다.

볌블의 사기 탐지자. <사진=범블>

데이팅 앱 업계는 AI로 생성된 가짜 프로필로 이뤄지는 범죄에 고심을 하고 있다. 소위 ‘로맨스 스캠(매력적인 연애상대로 속여서 접근해 각종 사기와 범죄행위를 하는 것)’이다. AI로 생성된 가짜 프로필이 사용되고 있다.

틴더, 힌지 등을 서비스하는 매치그룹은 올해 초 온라인 스캠을 막는 캠페인을 1월 시작했다. 틴더앱의 사용자가 로맨스 스캠이 의심되는 메시지를 받을 경우 자동으로 메시지를 받게된다.

아래는 틴더그룹이 제시한 상대방이 로맨스 스캠을 노리는 범죄일 수 있는 사인이다.

1. 상대방이 직접 만나거나 전화통화, 영상통화를 기피한다

2. 상대방이 암호화폐 관련 조언을 한다.

3. 투자전문가들은 데이팅앱에서 조언을 하지 않는다. 부자가 알려주겠다고 말하는 사람은 의심해야한다.

4. 상대방이 나의 감정을 자극하려 한다. 수술비, 생활비 등을 요구한다면 도망쳐라

5. 사기꾼은 사기를 치기 위해 몇달정도는 돈을 요구하지 않는다. 직접 만난 적이 없는 사람과는 돈을 주고받지 말라.

[실리콘밸리 이덕주 특파원]