전세계 휩쓰는 ‘딥페이크’ 공포...까다로운 ‘일본어 장벽’도 무너뜨려

지난해 사기목적 1년새 28배 급증
日 증가율 224개국 중 5번째
“친족 사칭 보이스 피싱 악용도 우려”
올해 韓 딥페이크 성범죄 피해자 1천명 넘을듯

[연합뉴스]

한국에서 가짜 영상을 만드는 기술인 ’딥페이크‘를 활용한 합성 음란영상이 사회적 물의를 일으키고 있는 가운데, 일본에서도 딥 페이크 관련 사기 위험이 치솟고 있는 것으로 나타났다. 딥페이크는 생성형 AI를 사용해 만드는 가짜 영상, 이미지, 음성 등을 가리킨다. 사람이 식별하기 어려울 만큼 실제 인물과 유사한 모습과 음성을 만들어낸다.

29일 니혼게이자이신문(닛케이)는 영국 디지털 신원확인 솔루션 제공업체 섬섭(Sumsub)의 조사에서 지난해 일본에서 확인된 사기목적 딥페이크 건수가 전년대비 28배 급증했다고 보도했다. 일본의 딥페이크 증가율은 조사 대상 224개국 및 지역 중 5번째로 높았다. 또한 올해 1~3월 증가율 역시 전년 동기 대비 약 2배에 달해 급증 추세가 계속되고 있는 것으로 나타났다. 전세계적 딥페이크 악용 확산에 일본도 직격탄을 맞고 있는 셈이다.

일본은 지난해 11월 실제 뉴스 프로그램처럼 만든 딥페이크 영상이 SNS에서 확산돼 크게 논란이 된 바 있다. 해당 프로그램을 대표하는 앵커가 등장해 투자 사이트에 등록하라고 권유하는 금융사기 수법이었다.

닛케이에 따르면 딥페이크로 일본인들을 속이기 위해서는 일본어로 영상을 제작해야 하는데, 그동안 일본어는 언어중에서 복잡하고 어려운 것으로 인식돼왔다. 때문에 사기 성공률이 영미권에 비해 낮았다. 하지만 AI기술이 발달하면서 점점 더 자연스러운 일본어 음성 생성이 가능해져 전세계 범죄조직들에게 ’일본어 장벽‘이 사라지고 있다고 지적했다.

실제로 미국 보안 기업 프루프 포인트에 따르면, 거래처 등을 가장한 비즈니스 이메일 사기를 당한 일본 기업의 비율은 지난해 전년 대비 약 35%늘었다. 이는 세계에서 가장 높은 증가율이다.

세계적으로는 딥페이크로 인한 금융사기 관련 거액의 피해가 잇따르고 있다. 지난 2월 영국 대형 엔지니어링 기업 직원이 딥페이크 영상에 속아 총 2억 홍콩 달러를 사기당하기도 했다.

일본은 딥페이크를 식별하는 기술 보급을 서두르고 있다. 국립정보학연구소는 지난해 영상 등에 등장하는 인물의 얼굴이 딥페이크로 만들어진 것인지 조사하는 프로그램을 제공하기 시작했다. 금융기관들에서는 안면 인식 보안을 뚫지 못하도록 도입을 추진하고 있다.

국립정보학 연구소는 연내 음성 딥페이크도 식별할 수 있도록 개선한다는 방침이다. 이 연구소 소속 야마기시 준이치 교수는 “친족을 사칭한 음성으로 사기 전화를 걸어오는 수법도 우려된다. 장기적으론 일반 스마트폰으로 판별할 수 있는 시스템 구축이 요구될 것”이라고 말했다.

한국에서는 근래 딥페이크 음란영상이 기승을 부리고 있다. 디지털성범죄피해자지원센터에 따르면 올해 딥페이크 피해자는 1000명을 넘어설 것으로 관측되고 있다. 28일 서울중앙지법은 올해 초 서울대 졸업생들이 동문 여성 얼굴을 합성한 음란물을 만들어 배포한 사건관련 공범 박모씨에게 징역 5년을 선고했다.