기시다 AI 조작영상 인터넷 게재…하루새 232만회 조회돼

X(옛 트위터) 캡처

인공지능(AI)을 사용해 조작한 기시다 후미오(岸田文雄) 일본 총리 동영상이 온라인에 퍼져 하루 만에 조회수 230만 회를 넘는 등 혼란을 일으키고 있다.

5일 일본 언론에 따르면 일본 민영 방송 니혼TV 로고가 상단에 떠 있는 이 동영상은 양복을 입은 기시다 총리가 성적인 발언을 하고 있는 것처럼 제작됐다. 니혼TV 자막 형식을 따라한 자막도 입혀졌다. 또 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라는 자막도 나와 기시다 총리 발언이 긴급 속보로 생중계되는 듯한 인상을 준다.

3분 43초 분량의 이 조작 동영상은 올여름 인터넷 동영상 채널 ‘니코니코’ 등에 처음 게재됐다. 이후 분량을 30초로 줄인 동영상이 2일 소셜미디어 엑스(옛 트위터)에 올라와 하루 만에 조회수 232만 회 이상을 기록했다.

이 동영상은 오사카에 사는 25세 남성이 만든 것으로 알려졌다. 이 남성은 4일 소셜미디어를 통해 자신이 생성형 AI 등을 사용해 기시다 총리 가짜 동영상을 제작해 인터넷에 올렸다며 “재미로 만들었다”고 밝혔다. 그는 인터넷에 공개된 기시다 총리 기자회견 및 자민당 대회 연설 동영상 등에서 나온 총리 음성을 AI에 학습시켜 거짓 발언을 만든 것으로 알려졌다. 여기에는 기시다 총리 온라인 기자회견을 보도한 니혼TV 뉴스 프로그램도 활용됐다.

이 남성은 “기시다 총리 발언 및 허위 동영상은 모두 삭제했으니 소송 등은 하지 말아 달라”며 “단순한 장난”이라고 해명했다. 그는 지난해 아베 신조 전 총리 허위 동영상도 제작해 온라인에 올린 것으로 알려졌다. 하지만 니혼TV 측은 “방송, 프로그램 로고를 허위 동영상에 악용한 것은 도저히 용서할 수 없다. 필요에 따라 대응하겠다”고 4일 밝혔다.

AI를 활용해 유명 정치인 또는 연예인의 발언이나 행동을 조작해 거짓된 영상이나 이미지를 만드는 딥페이크 기술 등은 최근 세계 각국에서 논란이 되고 있다. 조 바이든 미국 대통령은 지난달 30일 AI 안전성 평가를 의무화하는 행정명령에 서명하면서 “나도 (AI로 만든) 내 영상을 보고 ‘도대체 내가 언제 저런 말을 했지’라고 생각한 적이 있다”고 말했다.

도쿄=이상훈 특파원 sanghun@donga.com