“엄마, 돈 빨리 보내줘” 딸인줄 알았더니 AI

딥페이크로 가족음성 모방
AI 보이스피싱 대응 시급

보이스피싱 사기 사진 연합뉴스.

"엄마, 나 핸드폰이 망가졌어. 액정 수리비 좀 보내줘."

자녀를 사칭해 이런저런 급박한 사정을 대며 송금을 요구하는 것은 보이스피싱의 전형적인 사례다. 다급한 상황 속에 피해자들은 보이스피싱 사기범의 목소리를 가족의 목소리라고 착각하고 선뜻 돈을 보내 피해를 보곤 한다.

여기에 목소리마저 ‘진짜 가족의 목소리’라면 범죄에 걸려들 확률은 더 높아지는데, 최근 인공지능(AI) 딥페이크 음성합성 기술이 발전하면서 이런 위험이 현실화하고 있다.

15일 정보통신기획평가원(IITP) 주간기술동향에 따르면, 정수환 숭실대 정보통신전자공학부 교수는 특정인의 목소리를 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술을 내년 12월을 목표로 개발하고 있다.

기존 보이스피싱 탐지 기술은 범죄에 활용된 데이터베이스와 단어를 비교해 유사성을 판단하는 데 그쳤다면, 이들이 개발하는 기술은 음성의 딥페이크 조작 여부를 조작된 음성과 실제 음성의 특징을 딥러닝 학습해 탐지해낸다는 차이점이 있다. 이 기술을 스마트폰 등 IT기기에 탑재해 사고를 예방하는 것이 개발의 목적이다.

정 교수 연구팀은 기술동향 보고서에서 "최근 딥러닝 음성 합성 기술이 발전하면서 특정 대상을 겨냥한 음성 조작이 가능해졌고 실제 구분이 쉽지 않은 단계로 가고 있어 보이스피싱 조직이 이를 활용하면 거의 완벽하게 대상을 속일 수 있다"고 우려했다. 실제 2019년 영국 한 에너지 회사가 최고경영자(CEO) 목소리를 AI가 위조한 보이스피싱 공격을 받아 24만3000달러를 송금하는 금융사기에 휘말렸다는 소식이 전해진 적 있다.

국내에서도 성우·유명인 등의 목소리를 딥페이크 기술로 복제해 원하는 내용의 글을 음성으로 변환해주는 음성 합성 기술 개발이 시작되고 있는 상태여서 범죄에 악용될 가능성이 보인다고 보고서는 지적했다. 보고서는 "AI를 활용한 보이스피싱 위험이 많이 증가했지만, 변조 음성 탐지 기술은 거의 없는 상황"이라며 "해외 연구는 주로 영어 발화에 대한 연구이기에 한국어 딥페이크 음성 탐지 연구가 필요하다"고 강조했다.

또, AI로 위조된 음성을 탐지하는 기술이 활성화되면 보이스피싱 예방뿐 아니라 공격자가 특정한 개인이나 공인을 흉내 내 명예를 훼손하는 가짜 뉴스, 신원 합성을 통한 사기 등의 예방에도 활용될 수 있을 것으로 전망했다.

전수한 기자