"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"엄마, 나 사고 났어. 빨리 돈 좀 보내줘."
자녀에게서 걸려 온 전화 너머의 다급한 목소리에 황급히 요구를 들어준 뒤에야 보이스피싱에 당했다는 걸 안 피해자들은 범인이 가족 목소리를 흉내 낸 연기에 그만 깜빡 속아 넘어갔다는 것을 깨닫곤 한다.
AI로 위조된 음성 탐지 기술이 활성화되면 보이스피싱 예방뿐 아니라 공격자가 특정한 개인이나 공인을 흉내 내 명예를 훼손하는 가짜 뉴스, 신원 합성을 통한 사기 등의 예방에도 활용될 수 있을 것으로 전망됐다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
실제 3억원 송금한 AI 보이스 피싱사례 있어…대응은 '눈에는 눈, AI엔 AI로'
(서울=연합뉴스) 조성미 기자 = "엄마, 나 사고 났어. 빨리 돈 좀 보내줘."
자녀에게서 걸려 온 전화 너머의 다급한 목소리에 황급히 요구를 들어준 뒤에야 보이스피싱에 당했다는 걸 안 피해자들은 범인이 가족 목소리를 흉내 낸 연기에 그만 깜빡 속아 넘어갔다는 것을 깨닫곤 한다.
그런데, 가족의 진짜 목소리와 똑같은 음성이 도움을 요청하는 전화를 받는다면 범죄에 걸려들 확률은 더 높아질 수 있는데, 인공지능(AI)을 쓴 딥페이크 기술이 발전하면서 이러한 위험은 현실화하고 있다.
15일 정보통신기획평가원(IITP) 주간기술동향에 따르면 정수환 숭실대 정보통신전자공학부 교수는 특정인의 목소리를 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술을 내년 12월을 목표로 개발 중이다.
기존의 보이스피싱 탐지 기술이 범죄에 활용된 데이터베이스와 단어를 비교해 유사도를 판단하는 것이었다면, 개발되는 기술은 음성의 딥페이크 조작 여부를 조작된 음성과 실제 음성의 특징을 딥러닝 학습을 통해 차이점에 탐지해낸다는 차이가 있다.
이러한 기술을 스마트폰 등 단말에 탑재해 사고를 예방하는 것이 목적이다.
정 교수 연구팀은 기술동향 보고서에서 "최근 딥러닝 음성 합성 기술이 발전하면서 특정 대상을 겨냥한 음성 조작이 가능해졌고 실제 구분이 쉽지 않은 단계로 가고 있어 보이스피싱 조직이 이를 활용하면 거의 완벽하게 대상을 속일 수 있다"고 우려했다.
2019년 영국 한 에너지 회사는 최고경영자(CEO) 목소리를 AI가 위조한 보이스피싱 공격을 받자 24만3천달러를 송금하는 금융사기에 휘말리기도 했다.
국내에서도 성우, 유명인 등의 목소리를 딥페이크 기술로 복제해 원하는 내용의 글을 음성으로 변환해주는 음성 합성 기술 개발이 시작되고 있는 상태여서, 범죄에 악용될 가능성이 제기된다고 보고서는 지적했다.
보고서는 "AI를 활용한 보이스피싱 위험이 많이 증가했지만, 변조 음성 탐지 기술은 거의 없는 상황"이라며 "해외 연구는 주로 영어 발화에 대한 연구이기 때문에 한국어 딥페이크 음성 탐지 연구가 필요하다"고 강조했다.
AI로 위조된 음성 탐지 기술이 활성화되면 보이스피싱 예방뿐 아니라 공격자가 특정한 개인이나 공인을 흉내 내 명예를 훼손하는 가짜 뉴스, 신원 합성을 통한 사기 등의 예방에도 활용될 수 있을 것으로 전망됐다.
csm@yna.co.kr
▶제보는 카톡 okjebo
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- 학창 시절 후배 다치게 한 장난…성인 되어 형사처벌 부메랑 | 연합뉴스
- 아내와 다툰 이웃 반찬가게 사장 찾아가 흉기로 살해 시도 | 연합뉴스
- 원아 머리 킥보드로 때렸던 유치원 교사, 다른 원생 11명도 폭행 | 연합뉴스
- 성폭력 재판 와중에 또 악질 성범죄…변명 일관한 20대 중형 | 연합뉴스
- 주행기어 상태서 하차하던 60대, 차 문에 끼여 숨져 | 연합뉴스
- '백설공주' 주연배우 제글러, 트럼프 욕했다 역풍…결국 사과 | 연합뉴스
- 페루서 독거미 320마리 밀반출하려다 20대 한국인 체포돼 | 연합뉴스
- 타이슨, '핵주먹' 대신 '핵따귀'…폴과 대결 앞두고 선제공격 | 연합뉴스
- 김준수 협박 금품 갈취한 아프리카TV 여성 BJ 구속 송치 | 연합뉴스
- 의문의 진동소리…옛날 가방 속 휴대폰 공기계 적발된 수험생 | 연합뉴스