“엄마 돈 좀…” 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까

/일러스트=조선디자인랩 이연주

“엄마, 돈 좀 보내줘” 등 자녀를 사칭해 송금을 요구하는 것은 보이스피싱의 전형적인 사례다. 그런데 최근 인공지능(AI) 딥페이크가 보이스피싱에 활용되면서 더 큰 피해가 우려되고 있다. 자녀를 사칭하는 것부터 피해자에게 혼란을 야기하는데, 목소리까지 감쪽같이 따라 하면 속을 수밖에 없게 되기 때문이다. 이에 국내 한 연구팀은 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술 개발에 나섰다.

15일 정보통신기획평가원(IITP) 주간기술동향에 따르면, 정수환 숭실대 정보통신전자공학부 교수는 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술을 내년 12월을 목표로 개발하고 있다. 이 기술은 딥러닝 학습을 통해 딥페이크 조작 여부를 탐지해 낸다는 특징이 있다. 스마트폰 등 IT기기에 탑재해 상용화 함으로써 피해를 예방하는 게 목적이다.

정 교수 연구팀은 “국내에서 성우, 유명인 등의 목소리를 딥페이크 기술로 복제해 텍스트를 원하는 대상의 음성으로 만들어 주는 음성합성이 시작되고 있는 상태”라며 “이렇게 AI를 활용해 특정 타깃으로 변조한 방식의 보이스피싱 위험성이 크게 증가했지만, 이러한 변조 음성의 탐지 기술은 거의 없다”고 했다.

이미 외국에서는 딥페이크를 이용한 보이스피싱에 대한 우려가 한 차례 나왔다. 지난 3월, 캐나다에서는 보이스피싱범이 “아들이 교통사고로 미국인 외교관을 숨지게 한 혐의로 수감됐다”며 부모에게 2만1000캐나다달러(약 2000만원) 상당의 암호화폐를 송금하라고 요구했다는 보도가 나왔다. 당시 범인은 딥페이크 기술이 적용된 ‘가짜’ 아들의 목소리를 들려줬고, 부모는 감쪽같이 속아 돈을 송금했다.

2019년에 영국에서는 CEO가 같은 수법에 당했다. 당시 보이스피싱 일당이 독일의 한 에너지 회사 최고경영자(CEO)의 목소리를 AI 기술로 흉내 내 영국의 자회사 CEO로부터 22만유로(약 3억500만원)를 갈취했다.

정 교수 연구팀은 “딥페이크 음성 변조를 통한 고도화된 보이스피싱을 사전에 탐지, 방어함으로써 금융 피해 확산 차단 효과가 기대된다”며 “해당 연구는 딥페이크 기반으로 새롭게 등장한 보이스피싱 공격에 대한 경각심을 높이고, 이를 통해 개인 및 기업 모두에서 딥페이크 보이스 기술로 인한 범죄 및 재정적 손실을 줄일 수 있다”고 했다. 그러면서 “특정 개인이나 공인의 신분을 흉내 내 사회적 명성을 훼손하는 등의 예방을 통해 사회 안정에도 기여할 수 있다”고 했다.