사망한 아베가 어떻게…日, 전현직 총리 가짜 AI 음성 확산에 골머리

가짜 동영상 만든 20대, 가짜 음성 낭독 앱도 만들어
전문가 “민주주의 위협, 국제 문제 확대 가능”

(시사저널=김민지 디지털팀 기자)

생성형 인공지능(AI)을 사용해 기시다 후미오 일본 총리가 등장하는 허위 동영상을 제작한 20대 일본인이 전현직 총리 음성을 흉내 내는 가짜 음성 낭독 애플리케이션도 만들어 퍼트렸다.

요미우리신문은 22일 스마트폰과 컴퓨터를 통해 이용할 수 있는 이 무료 앱에 문장을 입력하면 기시다 총리, 아베 신조, 스가 요시히데 전 총리 등 3명의 음성과 비슷한 목소리를 들을 수 있다고 전했다.

사회관계망서비스(SNS) 엑스에는 이 앱으로 만든 것으로 추정되는 거짓 발언이 올라오고 있다고 요미우리는 보도했다.

그러면서 사망한 아베 전 총리가 "딥스테이트(Deep State·국가를 좌지우지하는 비밀집단) 포위망 구축에 대해 푸틴 러시아 대통령과 위기감을 공유해 왔다"고 한 것을 요미우리는 예로 들었다.

혼슈 서부 효고현에 거주하는 이 20대 남성은 온라인에서 확보한 전현직 총리의 연설 동영상을 AI에 학습시켜 허위 음성을 제작했다고 요미우리에 말했다.

이어 그는 "나와 똑같이 정치가들을 깔보는 패러디를 만드는 사람이 나타나길 바란다고 생각했다"고 밝혔다.

최근 일본에서는 이 20대를 포함한 여러 명의 일본인이 만든 전현직 총리의 가짜 동영상이 유포되고 있어 논란이다.

이와 관련해 일본 정부 대변인인 마쓰노 히로카즈 관방장관은 지난 6일 기자회견에서 "정부 정보를 거짓으로 발신하는 것은 경우에 따라 민주주의의 기반을 손상할 수 있는 만큼 해서는 안 된다"고 밝혔다.

야마구치 신이치 고쿠사이대 교수는 "정치가의 거짓 동영상과 거짓 음성이 다양한 곳에서 혼란을 일으킬 수 있다"며 선전이나 선동에 사용되면 국제 문제로도 확대될 수 있다고 비판했다.