악담하는 기시다 총리 영상…알고보니 AI가 만든 가짜

기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 동영상을 만들었다. [니혼테레비 캡처]

인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산하고 있다. 뉴스 프로그램 로고를 도용당한 방송사 측은 “용서할 수 없다”는 입장을 밝혔다. 4일 요미우리신문 등 현지 매체에 따르면 양복 차림의 기시다 총리가 등장해 악담 등을 하는 영상이 지난 2일 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만 회 이상을 기록했다.

해당 영상은 지난 여름 인터넷 동영상 채널인 ‘니코니코’ 등에 3분43초 분량으로 게시됐는데 최근 이를 30초 분량으로 줄인 편집본이 SNS를 통해 확산하고 있다. 영상에는 현지 민영방송 니혼테레비(닛테레) 뉴스 프로그램 로고가 표시돼 있고, ‘LIVE’(생중계)나 ‘BREAKING NEWS’(뉴스 속보) 자막도 적혀 있다.

해당 가짜 동영상은 오사카에 거주하는 20대 남성 A씨가 제작했다. A씨(25)는 요미우리신문에 “인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다”며 “재미로 만들었다”고 말했다. 그러면서 기시다 총리의 온라인 기자회견을 보도한 닛테레 뉴스 프로그램도 이용했다고 덧붙였다. A씨는 지난해부터 기시다 총리 이외에도 아베 신조 전 총리의 가짜 동영상도 제작해 투고한 것으로 알려졌다. 닛테레는 “닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”며 “필요에 따라 적절한 대응을 하겠다”고 밝혔다.

지난 3월 미국 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 ‘가짜 사진’이 인터넷상에서 확산한 바 있는데 이것도 AI로 만든 것이었다.

정혜정 기자 jeong.hyejeong@joongang.co.kr