기시다도 스위프트도 ‘AI 딥페이크’에 당했다 [심층기획-사회 혼란 빠뜨리는 가짜뉴스]

각국 정상 가짜 목소리·동영상에 곤욕
세계 유명인 4000명도 음란물로 피해

조 바이든 미국 대통령과 기시다 후미오(岸田文雄) 일본 총리 등 각국 주요 정상들도 인공지능(AI) 기술을 활용한 딥페이크 가짜뉴스로 곤욕을 치렀다.

미국 북동부 뉴햄프셔주 대선후보 프라이머리(예비선거) 직전이던 지난 1월 바이든 대통령 목소리로 가짜전화 메시지가 펴졌다. 정치 컨설턴트 스티브 크레이머가 제작한 이 메시지는 생성형 AI 기술로 바이든 대통령의 목소리를 모방해 ‘프라이머리에서 투표하면 11월(대선)에 투표할 수 없다’는 허위 정보였다. 미 연방통신위원회(FCC)는 지난 5월 크레이머에게 600만달러(82억원 상당)의 벌금을 부과하며 “전화 발신자가 잘 알려진 정치인이나 좋아하는 유명인 또는 친숙한 가족 구성원처럼 보이면, 그 누구도 사실이 아닌 것에 속을 수 있다”고 지적했다.

미국 정부 관계자와 만난 브라질 외무장관의 모습을 기시다 후미오 총리(오른쪽)로 바꿔 만든 딥페이크 사진. NHK방송 화면 캡처

기시다 총리도 조작된 딥페이크 영상과 사진이 사회관계망서비스(SNS)에 확산해 피해를 입었다. 일본 NHK방송에 따르면 지난 2월 엑스(X·옛 트위터)에 미국 정부 관계자들이 다리를 꼬고 앉아 소파에 앉은 기시다 총리를 노려보는 듯한 사진이 올라왔다. 사진 상단에는 “이 한 장이 모든 것을 말해준다”는 설명이 달렸다. 해당 사진 원본은 2022년 4월 미국 정부 고위관계자들이 브라질 외무장관과 만났을 때에 찍은 것으로 브라질 외무장관을 기시다 총리로 바꿔놨다. 지난해 11월에는 기시다 총리가 성적 발언을 하는 가짜 동영상이 퍼지기도 했다.

이탈리아 역사상 첫 여성 총리인 조르자 멜로니는 지난 3월 딥페이크 음란 동영상에 대해 민사소송에 나섰다. 이탈리아 안사(ANSA)통신에 따르면 멜로니 총리는 자기 얼굴을 합성해 딥페이크 음란 동영상을 제작·유포한 두 사람에 대해 10만유로(약 1억4500만원)의 손해배상을 요구하며 “이런 유형의 피해를 본 모든 여성에게 두려워하지 말라고 당당히 맞서라는 메시지를 전달하기 위해 소송에 나섰다”고 밝혔다.

유명 인사들도 예외는 아니었다. 세계적인 팝스타 테일러 스위프트 얼굴 사진이 합성된 음란한 이미지가 올해 초부터 온라인상에서 확산해 팬들의 공분을 일으켰다. X는 관련 성명에서 “확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 삭제 전까지 해당 이미지는 4700만회나 조회됐다고 뉴욕타임스(NYT)는 전했다.

최근에는 TV 드라마 ‘유포리아’ 등으로 인기를 끈 할리우드 배우 제이콥 엘로디가 딥페이크 음란 동영상 ‘타깃’이 됐다. NBC방송에 따르면 지난 6월 엘로디의 이미지가 합성된 딥페이크 동영상이 X에서 확산했다.

영국 방송사 채널4 뉴스는 지난 3월 방문자가 많은 딥페이크 웹사이트 5곳을 분석한 결과 이 같은 딥페이크 음란물로 전 세계 유명인 4000명가량이 피해를 봤다고 보도했다. 이 매체는 “분석 대상 딥페이크 웹사이트가 3개월간 1억뷰를 기록했다”면서 피해자 중에는 유명한 여배우와 TV 스타, 음악가, 유튜버 등이 포함돼 있다고 설명했다.

조성민 기자 josungmin@segye.com