“납치됐다” 울먹이는 아내 목소리 알고 보니 AI 음성 보이스피싱

유튜버 ‘딥보이스’ 피해 사실 공개
20초 분량 음성만 있으면 흉내 가능

구독자 16만명가량을 둔 유튜버 A씨는 지난해 ‘딥보이스’(목소리 딥페이크) 보이스피싱에 속아 2000만원을 뜯겼다. 딥보이스는 AI(인공지능) 핵심기술인 딥러닝(deep learning)과 목소리(voice)의 합성어로 AI 기술을 활용해 특정인 목소리를 흉내 내는 기술을 뜻한다.

보이스피싱 조직은 A씨가 영국에 여행 중일 때 그의 남편에게 전화를 걸었다. 남편은 A씨 번호로 걸려온 전화를 아무 의심 없이 받았다. 수화기 너머의 A씨는 “납치를 당했다. 옆에 있는 사람이 총을 들고 있다”며 울먹였다. 흐느끼는 아내 목소리에 당황한 A씨 남편은 일당이 요구하는 2000만원을 입금할 수밖에 없었다. 분명히 아내의 목소리였기 때문에 보이스피싱이라는 생각은 꿈에도 하지 못했다. 이런 피해 내용을 자신의 유튜브 계정에 올린 A씨는 “목소리까지 딸 수 있는 딥페이크가 있다. (보이스피싱 일당이) 유튜브에서 제 목소리 소스를 따기 쉬웠을 것”이라며 주의를 당부했다.

이처럼 딥보이스 기술이 신종 보이스피싱에 악용될 수 있다는 경고가 나온다. 실제 아랍에미리트(UAE), 중국 등에서 유사한 범죄가 속속 발생하고 있다. 경찰청은 아직 국내에 관련 사건이 접수된 사례는 없다고 설명했지만, A씨처럼 접수되지 않은 사례도 다수 있는 것으로 알려졌다.

17일 업계에 따르면 지난해까지만 해도 딥보이스를 만들기 위해선 최소 1~2분의 목소리 샘플이 필요했다. 그러나 최근엔 약 20초 분량의 목소리만 있어도 딥보이스를 만들 수 있을 정도로 기술이 발전했다. 짧은 전화 통화를 통해 수집된 음성만으로도 목소리 바꿔치기가 가능해진 것이다.

딥보이스 보이스피싱은 낯선 사람의 목소리로 걸려오던 과거 보이스피싱과 달리 익숙한 주변인 목소리로 접근하기 때문에 속아 넘어갈 위험성이 훨씬 크다. A씨 경우처럼 유튜브 등 공개된 영상에서 목소리를 따서 가짜뉴스 생성 등 범죄에 활용할 수도 있다. 지난해 3월 볼로디미르 젤렌스키 우크라이나 대통령의 ‘항복 선언’ 가짜 영상도 딥보이스를 이용한 것이었다.

김명주 서울여대 정보보호학과장(바른AI연구센터장)은 “전화번호만 알아내면 잘못 건 전화인 척 통화해 20초 분량의 목소리는 얻어낼 수 있다. 유명인의 경우 (목소리 샘플을 얻기) 더 쉽다. 그만큼 범죄 우려가 크다”고 말했다.

경찰도 딥보이스 피해 방지를 위한 연구개발(R&D) 사업을 지난 4월부터 진행 중이다. 목소리 동일성 여부나 유사도 판단 등을 할 수 있는 기술을 개발한 뒤 현재는 프로그램 고도화 작업 등을 하고 있다.

전문가들은 가족만의 암구호를 만드는 것도 딥보이스 피해를 막을 수 있는 방법의 하나라고 조언한다. 김 교수는 “자녀의 목소리로 울면서 납치당했다는 전화가 걸려왔을 때 ‘같이 나간 (돌아가신) 할머니는 괜찮으시냐’고 묻는 식이다. 고인이 된 가족에 대한 안부를 묻는 것이니 어떤 대답이 돌아오든 보이스피싱범은 진실을 말할 수가 없다”고 말했다.

백재연 기자 energy@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지