"엄마" 부른 목소리, 내 딸 맞는데…보이스피싱 범죄에 악용되는 AI

미국에서 인공지능(AI) 기술이 보이스피싱 범죄에 악용되는 사례가 잇따르고 있다.

지난해 12월과 지난달 다른 두 명의 피해자들이 AI로 목소리를 변조한 보이스피싱 전화를 받아 1000달러(약 130만원)의 몸값을 지불한 데에 이어 이번에는 소셜미디어에 올린 영상 속 자녀가 말한 단 3초의 목소리를 이용해 AI가 자녀의 목소리를 흉내 내 몸값을 요구했다.

사진=게티이미지뱅크

12일(현지시간) 미국 뉴욕포스트 등에 따르면 애리조나주에 사는 제니퍼 데스테파노는 ‘딸이 납치됐다’는 전화를 받았다.

납치범은 딸의 몸값으로 100만달러(약 13억원)을 요구했다. 이어 온 전화에는 딸 브리아나 데스테파노의 절규가 들렸다.

제니퍼의 딸은 전화로 “엄마, 내가 모두 다 망쳤어”라고 겁에 질린 채 흐느꼈다. 제니퍼는 10대인 딸이 친구들과 함께 스키여행을 갔다는 사실을 알고 있었지만 갑작스러운 딸의 울부짖음에 충격을 받았다.

납치범은 제니퍼에게 “여기 당신의 딸이 있어. 네가 경찰이나 아는 지인 누구에게도 전화를 한다면 나는 딸의 장기에 마약을 가득 채울 것”이라며 협박하며 딸의 몸값으로 100만달러(약 13억원)를 요구했다.

제니퍼는 당시 상황에 대해 “납치범과 통화를 하고 있는데도 계속 수화기 너머로 딸이 ‘엄마 살려줘’라며 애원하는 목소리가 들렸다”며 “납치범과 협상 끝에 5만달러(약 7000만원)로 낮췄다”고 전했다.

한편, 사건 당시 제니퍼와 함께 있던 지인은 이를 의심했다. 지인의 말을 듣고 제니퍼는 911에 전화를 걸어 여행을 간 딸과 통화를 한 뒤 납치범의 전화가 보이스피싱임을 확인했다.

전문가들은 “AI를 활용한 진보된 보이스피싱 범죄가 늘어날 것”이라며 주의를 당부했다.

AI·컴퓨터 과학 전문가인 수바리오 캄밤파티 애리조나주립대학 교수는 “예전에는 AI로 사람의 목소리를 복제하기 위해선 충분한 길이의 샘플이 필요했다”며 “이제는 단 3초짜리 샘플로도 목소리를 복제해 변조할 수 있다”고 설명했다. 이어 “영상 샘플의 양이 길 수록 사람의 감정 모방이 용이하다”고 엄중히 경고했다.

송동근 기자 sdk@segye.com