[글로벌D리포트] AI굴기 그림자?…얼굴변환 사기에 골머리

영화 해리포터 속 인물들이 중국 배우들로 바뀌어 있습니다.

중국 영화 속 주인공의 얼굴은 테슬라 CEO 일론 머스크로 변환됐습니다.

[AI 생성 영상 : 미국을 구하는 것이 인류를 구하는 것이다.]

예전 사극 속 등장인물들이 시대에 맞지 않게 갑자기 총을 꺼내 들거나 오토바이를 타기도 합니다.

중국에선 흔히 찾아볼 수 있는 AI 변환 영상인데, 저렴한 가격에 다양한 프로그램이 판매돼 일반인도 쉽게 제작할 수 있습니다.

문제는 범죄로 이어지는 경우가 급증하고 있다는 겁니다.

한 유명 모델은 최근 자신의 얼굴을 도용한 음란물로 피해를 입은 사실을 공개하고 대책을 호소했습니다.

[예카이웨이/패션 모델 : 거짓말과 유언비어는 1분이면 한 사람을 망칠 수 있어요.]

중국 국민 남편으로 불리는 유명 배우 진동의 얼굴도 범죄에 자주 이용되고 있습니다.

사기범들이 AI로 가짜 진동을 구현해 돈을 요구했는데 여기에 속은 중노년 여성 피해자가 속출했습니다.

[AI 영상 사기 피해자 : 너 정말 가짜니? 사기꾼이니? 나는 정말 못 믿겠어.]

샤오미 창업자 레이쥔 마저 자신의 음성을 그대로 베낀 욕설 영상 때문에 곤욕을 치렀습니다.

[AI 조작 음성 : 나는 레이쥔입니다. 7일 연휴가 순식간에 지나갔네요.]

진동과 레이쥔은 최근 중국 최대 정치행사 양회에서 법적 대책을 공개 요구하기도 했습니다.

[레이쥔/샤오미 창업자 : AI 음성 변환의 폐해가 이미 인터넷상에서 심각해요. 저 자신이 피해자입니다.]

AI를 악용한 딥페이크 사기 사건이 2023년 한해에만 30배나 늘어나자 중국 당국은 원본추적이 가능한 워터마크를 AI 콘텐츠에 의무적으로 표시하도록 했습니다.

(취재 : 정영태, 영상취재 : 최덕현, 영상편집 : 김종태, 영상출처 : 웨이보·더우인, 제작 : 디지털뉴스편집부)

정영태 기자 jytae@sbs.co.kr