[단독] AI 딥보이스 피싱, 통신사 탐지에 걸렸다

[목소리를 믿지 마세요 ①]

편집자 주

전화 속 익숙한 목소리를 이제는 AI가 만들어 낼 수 있다. 딥보이스 피싱 범죄가 어디까지 왔는지, 기술은 이를 얼마나 잡아내는지, 기술이 닿지 않는 곳은 어떻게 막아야 하는지 3편에 걸쳐 짚는다.

▶ 글 싣는 순서

①[단독] AI 딥보이스 피싱, 통신사 탐지에 걸렸다
(계속)

AI가 만든 목소리로 판별된 보이스피싱 통화가 국내에서 확인됐다. 통신사가 합성 음성으로 탐지한 통화를 수사기관 자료와 대조한 결과다.

금융당국이 올해 초 AI로 조작한 아이 울음소리를 이용한 수법을 경고했고, 짧은 음성만으로 목소리를 복제하는 기술도 이미 나와 있다. 다만 국내에서 AI 목소리를 이용한 보이스피싱이 얼마나 발생하는지는 아직 파악되지 않는다.

범죄회선 내역과 대조해 확인

KT는 CBS노컷뉴스에 보낸 서면 답변에서 "딥보이스로 탐지된 통화 가운데 실제 보이스피싱으로 확인된 사례가 있다"고 밝혔다. 딥보이스는 AI로 특정인의 목소리를 복제·합성하는 기술이다.

KT는 경찰청이 주기적으로 제공하는 범죄회선 내역과 탐지된 통화를 대조해 확인했다고 설명했다. 합성 여부는 KT의 탐지 AI가 판단했고, 해당 통화가 보이스피싱이었다는 점은 경찰 자료로 확인했다.

KT가 통화 속 목소리가 딥보이스로 합성된 것인지 가려내는 탐지 기술을 도입한 건 2025년 7월. 통화 문맥 분석, 범죄자 목소리를 대조하는 화자 인식 기능과 함께 작동한다. 지난 4일에는 서비스를 '안심365 보이스피싱 탐지 3.0'으로 업데이트했다.

합성 음성을 이용한 보이스피싱에 대한 경고는 앞서 금융감독원에서 나왔다. 금감원은 지난 2월 AI로 조작한 아이의 울음소리를 들려주며 자녀 납치를 빙자하는 수법에 대해 소비자경보 '주의'를 냈다. 교육사업 운영 회사의 해킹 사고 등이 보이스피싱 피해로 이어질 수 있다는 소비자 불안이 커지고 있다는 점이 배경으로 제시됐다.

금감원에 따르면 범인은 학부모에게 자녀 이름과 학원명을 대고 AI로 조작한 울음소리를 들려준다. 이어 자녀가 휴대전화를 망가뜨렸다거나 욕을 했다며 술값·수리비로 50만 원 등 소액을 요구한다. 금감원은 제보된 실제 통화 녹음파일 등을 분석해 이 수법을 파악했다고 밝혔다.

금감원 경보가 제보된 녹음을 사후에 분석해 나온 것이라면, KT 사례는 실제 서비스에서 합성 음성으로 탐지한 통화를 수사기관 자료와 대조해 보이스피싱 여부를 확인한 것이다.

10초 안팎의 음성이면 복제

누구의 목소리인지 특정되지 않은 아이 울음소리를 합성하는 데서 나아가 아예 특정한 사람의 목소리를 흉내 내는 것도 이미 기술적으로 가능하다. 짧은 녹음에서 목소리의 특징을 학습한 AI가 그 사람과 비슷한 음성을 만드는 방식이다.

구글 클라우드에서 즉석 음성 복제에 넣는 참조 음성은 10초 안팎이면 된다. 보안업체 맥아피(McAfee)의 2023년 보고서에는 연구진이 한 사례에서 3초 분량의 음성으로 원래 목소리와 85% 일치하는 복제 음성을 만들었다는 내용이 실렸다.

서울시립대 컴퓨터과학부 유하진 교수는 통화에서 "특정인의 목소리를 씌운 보이스피싱이 기술적으로 충분히 가능하다"며 유럽 등 해외에서는 회사 사장의 목소리를 흉내 내 송금을 시키는 사례가 많다고 설명했다.

미국 경제지 포브스에 따르면 2020년 초 한 일본 기업의 홍콩 지점장이 모회사 임원의 목소리로 걸려 온 전화와 송금을 지시하는 이메일을 믿고 약 3500만 달러를 송금했다. 수사를 맡은 아랍에미리트(UAE) 두바이 당국은 범인들이 딥보이스 기술로 임원 목소리를 흉내 냈다고 밝혔다.

국내에서는 중국 항저우에 거점을 둔 보이스피싱 조직 '김군일파'의 조직원이 2023년 6월 검거된 뒤 방송에 나온 검사의 얼굴과 목소리를 합성해 범행을 시도했다고 자백한 것으로 알려졌다.

경찰 통계엔 '딥보이스' 칸이 없다

국내 사례는 얼마나 될까. 현재로선 규모를 파악하기 어렵다.

경찰청이 CBS노컷뉴스에 회신한 자료에 따르면 경찰은 AI 음성이 의심되는 신고를 따로 분류하지 않는다. 목소리를 들려주는 수법도 따로 집계하지 않는다.

경찰이 분류하는 보이스피싱 유형은 기관사칭형과 대출사기형 두 가지뿐이다. 자녀를 납치했다며 돈을 요구하는 전화도 검찰·경찰 사칭과 같은 기관사칭형으로 집계된다.

경찰청 관계자는 "AI라고 확인이 되려면 사건 처리와 별개로 다시 정밀 분석해서 AI 여부, 특히 자녀의 목소리를 땄는지까지 확인이 돼야 하는데 그렇게 확인된 사례는 지금 별로 없는 걸로 안다"고 말했다. 통신사가 통화 도중 목소리의 합성 여부를 탐지하는 것과 달리 경찰은 사건마다 목소리를 다시 분석하지 않는다.

범죄 조직 입장에서는 특정한 자녀의 목소리를 복제하려면 개인정보까지 알아내야 해, 아무 목소리로 여러 사람에게 전화를 거는 편이 더 쉽다는 설명이다. 지금까지 자녀 사칭 범행은 주로 누구의 목소리인지 분명하지 않은 음성을 들려주는 방식이었다고 한다.

유 교수도 "우리나라에는 아직 그렇게 많이 보고되지 않았다"고 전했다.

탐지 AI가 목소리의 어떤 특징을 보고 합성 여부를 판단하는지, 그 탐지가 어디까지 가능한지는 다음 편에서 살펴본다.

제작지원 : 한국언론진흥재단

여러분의 제보가 CBS노컷뉴스의 시작입니다.

• 이메일 :jebo@cbs.co.kr
• 바로가기 :https://www.nocutnews.co.kr/jebo/write.aspx

CBS노컷뉴스 김광일 기자 ogeerap@cbs.co.kr

진실은 노컷, 거짓은 칼컷