일본도 '딥페이크' 골머리···1년새 관련 사기 28배 급증 [지금 일본에선]

英 보안업체 섬서브 딥페이크 보고서
22~23년 딥페이크 사기 증가율 급증
유명인 사칭 영상으로 투자 권유 늘어
조작 까다로웠던 '일본어 벽'도 무너져
딥페이크 판별 프로그램 기관들 도입↑

자료: 영국 섬서브

[서울경제]

국내에서 딥페이크(deep fake·불법 합성물 제작) 성 범죄물이 심각한 문제로 부상한 가운데 일본에서는 딥페이크를 이용한 사기 건수가 급증하고 있다.

니혼게이자이신문은 29일 영국 디지털 신원 확인 보안 업체 ‘섬서브(Sumsub)’의 딥페이크 보고서를 인용해 “지난해 일본에서 확인된 딥페이크 사기 건수가 전년 대비 28배(2800%) 급증했다”고 밝혔다. 섬서브가 발간한 ‘2023 사칭 보고서’를 보면 아시아태평양 지역에서 지난해 딥페이크 사기는 전년 동기 대비 총 1530% 늘었다. 베트남은 1년간 아태 지역에서 발생한 딥페이크 사기의 25.3%를 차지했으며 일본이 23.4%로 2위였다. 범위를 아태 지역에서 전 세계 조사대상 224개국으로 확대할 경우 일본은 딥페이크 사기 증가율에서 필리핀(4500%), 베트남(3050%), 캐나다(3000%), 벨기에(2950%)에 다섯 번째였다.

딥페이크는 주로 생성 AI 기술을 활용해 만든 가짜 동영상이나 이미지, 음성을 의미한다. 특정인과 거의 비슷한 형태를 갖춘 데다 날로 기술이 정교해지면서 이를 악용한 사기가 증가하는 추세다. 일본에서는 특히 유명 인사를 사칭한 투자 권유 딥페이크 게시물이 문제가 되고 있다. 지난해 11월에는 실제 존재하는 유명 뉴스 프로그램 영상이 투자 사이트 등록 권유 내용으로 조작돼 소셜미디어(SNS) 상에 확산된 바 있다. 섬서브 보고서는 “일본의 경우 엔터테인먼트 분야에서 관련 기술이 널리 사용되고 있다”는 점을 언급하며 “이로 인해 사기꾼들이 다른 분야에도 이 기술을 악용할 가능성이 있다”고 우려했다. 닛케이는 “일본어는 세계 주요 언어 중 복잡하고 어려운 편이라 지금까지 사기 성공률이 영어권에 비해 낮다고 여겨져 왔다”며 “그러나 생성 AI가 비교적 자연스러운 일본어 음성이나 영상을 만들 수 있어 범죄 조직에게 ‘일본어’라는 언어의 벽이 사라지고 있다”고 평가했다. 최근에는 사진을 바탕으로 본인과 흡사한 이미지나 동영상을 만들어 금융 서비스의 얼굴 인증을 통과하려는 시도 또한 늘고 있는 것으로 전해졌다.

상황이 심각해지면서 일본에서도 딥페이크를 악용한 콘텐츠에 대한 대응책 마련에 속도를 내고 있다. 국립정보학연구소는 지난해 특정 영상이나 이미지 속 얼굴이 딥페이크에 의한 것인지를 조사하는 프로그램을 제공하고 나섰다. 이후 본인 인증이 중요한 금융 기관 등이 프로그램 도입을 추진하고 있다. 프로그램에는 음성 딥페이크를 구분하는 기능도 연내 추가될 예정이다. 연구소의 야마기시 준이치 교수는 “최근 친족을 사칭한 합성 음성으로 사기 전화를 거는 수법도 우려를 키운다”며 “앞으로 일반 수준의 (휴대전화) 단말기에서도 딥페이크 여부를 판별할 수 있는 구조를 만드는 것이 필요하다”고 말했다.

송주희 기자 ssong@sedaily.com