도 넘는 가짜 AI 동영상…아베에 스가 전 총리까지

AI로 만든 기시다 일본 총리 가짜 동영상. 연합뉴스

유명인을 사칭한 인공지능(AI) 가짜 동영상이 최근 논란이 되고 있는 가운데, 작년 7월 총격으로 세상을 떠난 고(故) 아베 신조 전 총리를 비롯해 취임 1년 만에 물러난 스가 요시히데 전 총리까지 악의적으로 표현한 AI 동영상이 나왔다고 요미우리신문이 11일 보도했다.

확인된 가짜 동영상 중에는 아베 전 총리가 한학자 세계평화통일가정연합(옛 통일교·이하 가정연합) 총재를 '마더 문'이라고 호칭하는 등 통일교와 연결고리를 인정하는 듯한 내용을 담은 것도 있다. 지난 6월 인터넷에 올라온 또 다른 가짜 동영상에는 아베 전 총리가 러시아 국가를 부르는 장면이 담겼다.

스가 전 총리를 담은 가짜 동영상은 "실패에 실패를 거듭해 일본 전체를 적으로 돌려버렸다"고 말하는 모습이 들어있다. 효고현에 사는 남성(25)은 요미우리신문에 자신이 생성형 AI를 이용해 이들 동영상을 만든 것을 인정하고 "(아베 전 총리 등에 대한) 증오감을 높이기 위해서"라고 말한 것으로 전해졌다.

이 남성은 기자회견 등의 동영상을 생성 AI에 학습시키는 방법으로 가짜 동영상을 만들었으며 아베 전 총리의 가짜 동영상 제작 때는 기시다 총리의 가짜 동영상으로 논란을 빚은 오사카 거주 남성(25)이 공개한 AI 음성 학습 데이터도 이용했다고 한다.

해당 동영상 아래에는 'AI 아베 신조' 등의 제목이 붙어있지만, 동영상 안에는 AI로 만들어졌다는 설명이 없어 유포 과정에서 진위 판별이 어려워질 수도 있다고 요미우리신문은 전했다.

앞서 AI를 활용해 만든 기시다 총리의 가짜 동영상은 방송 뉴스 로고까지 표시된 채 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록할 정도로 빠르게 확산하면서 논란이 된 바 있다.

유명 정치인과 연예인의 가짜 동영상과 사진, 기사 등은 일본뿐만 아니라 이미 세계 여러 나라에서 문제가 되고 있다. 지난 3월에는 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 '가짜 사진'이 인터넷에서 확산했는데 이 역시 AI로 만든 것이었다.

이 밖에도 러시아-우크라이나 전쟁에서부터 이스라엘과 팔레스타인 무장 정파 하마스간 전쟁까지 가짜뉴스를 담은 AI 동영상들이 인터넷 공간 등에서 범람하고 있다. 김광태기자 ktkim@dt.co.kr