"나 잡혔어, 돈 보내줘" 딸 목소리 맞는데…알고 보니 '사람' 아니었다

"엄마 큰일 났어… 친구가 수익금을 준다고 해서… 대부업체에서 돈을 빌려줬는데 걔가 연락이 안돼. 나 지금 대부업체에 잡혀 왔어. 엄마 나 한 번만 도와줘"

지난달 21일 최모씨는 딸 번호로 전화 한 통을 받았다. 딸은 눈물을 흘리며 사채업자에게 붙잡혔으니 돈을 보내달라고 말했다. 최씨는 "처음엔 딸 번호로 전화가 오고 목소리도 비슷해서 깜짝 놀랐다"고 말했다.

하지만 최씨는 딸과 대화를 나눌수록 어딘가 이상하다는 느낌을 받았다. 누구냐고 재차 물어도 딸은 도와달라고만 했다. 뒤에서는 '울지마라' '똑바로 말하라'는 낯선 남성의 목소리가 들렸다.

최씨는 "처음에는 가족, 친구들에게 음성 파일을 들려주고 '딸 목소리 맞지 않냐'고 물을 정도로 헷갈렸다"며 "우선 전화를 끊고 딸에게 다시 전화해보니 사실이 아니라고 했다. 다행히 금전적 피해는 없었지만 아직도 그때 생각하면 어이가 없고 당황스럽다"고 말했다.

7일 최씨가 딸과 전화통화를 나눈 음성 파일을 딥보이스 탐지 프로그램으로 분석한 결과, 대체적으로 딸과 남성이 말한 부분은 가짜일 확률이 99% 이상이라고 나왔다. 최씨(엄마)가 말한 부분은 1~8%로 낮은 수치가 나왔다. 딸과 최씨의 발화가 겹친 부분은 딸의 딥보이스 영향으로 거짓 확률이 높게 나왔다. /사진=정수환 숭실대 정보통신전자공학부 교수

7일 정보·전자 분야 전문가인 정수환 숭실대 정보통신전자공학부 교수에게 해당 음성 파일을 전달하고 분석을 요청했다. 정 교수는 "딥보이스 탐지 프로그램을 활용한 결과, 어머니는 실제 인간 목소리지만 딸과 남성의 목소리는 AI로 나왔다"고 말했다. 딥보이스는 AI 핵심기술인 딥러닝과 목소리를 합친 말로, AI가 특정인의 목소리를 복제하는 것을 말한다.

정 교수는 "최근 AI 기술을 활용해 딥페이크, 딥보이스를 하는 사례는 많지만 실제로 보이스피싱에 활용한 건 처음 봤다"며 "앞으로 기술력이 더 좋아지면 이런 유사 범죄 사례는 더 많아질 것"이라고 말했다.

정 교수는 현실 세계에서 일반인이 실제 목소리와 AI 목소리를 구분하는 건 쉽지 않다고 말했다. 그는 "우선 돈을 요구하는 전화가 왔을 때는 의심부터 하고 대화 내용을 점검해야 한다"며 "AI는 '네' '아니오' 같은 간단한 답변은 할 수 있지만 디테일한 답변은 어려워한다. 질문에 엉뚱한 답변을 하진 않는지 살펴봐야 한다"고 말했다.

또 "가끔씩 보이스피싱범이 AI 답변을 즉석에서 타이핑해서 말할 수도 있다"며 "그때는 약간의 딜레이나 부자연스러운 소리가 나올 수 있다. 충분히 학습이 안 된 단어를 얘기할 때는 아무래도 퀄리티가 떨어질 수 있으니 그 부분을 의심해야 한다"고 말했다.

실제 가족과 지인 전화번호로 연락이 오는 것에 대해선 "요즘에 흔하게 쓰이는 보이스피싱 방식"이라며 "피해자 휴대폰에 악성 앱이 설치됐을 수도 있고 통신 중계 장비를 이용해 번호를 일부러 조작했을 수도 있다"고 말했다.

그동안 외국에선 딥보이스를 이용한 보이스피싱 사례가 다수 있었다. 지난 3월 캐나다에선 보이스피싱범이 AI 기술로 가짜 아들 목소리를 만들어 약 2000만원의 암호화폐를 갈취했다. 당시 그는 "교통사고로 미국인 외교관을 숨지게 했다"고 속였다. 2019년도에는 보이스피싱 일당이 독일의 한 에너지 회사 최고경영자(CEO)의 목소리를 AI 기술로 변환해 영국의 자회사 CEO로부터 약 3억500만원을 빼앗았다.

경찰에 따르면 아직까지 우리나라는 딥보이스 피해 신고가 들어온 사례는 없다. 전창배 국제인공지능윤리협회 이사장은 "목소리를 변형해 전화한 경우는 있어도 실제 돈을 갈취한 단계까지는 없는 것으로 보인다"며 "다만 요즘은 1분 미만의 SNS 영상만으로도 특정인의 목소리를 복제할 만큼 기술력이 좋아졌으니 각별한 주의가 필요하다"고 말했다.

김지은 기자 running7@mt.co.kr