기시다가 TV나와 음담패설? 日정치인들 희생양된 ‘가짜동영상’ 파문 [방구석 도쿄통신]

게시자 “그렇게 문제? 풍자도 안 되나” 궤변
유명배우 아오이 유우도 ‘AI 공격’ 당해

한국은 일본을 너무 모르고, 일본은 한국을 너무 잘 안다.
일본 내면 풍경, 살림, 2014

국내 언론 매체들은 가장 가까운 이웃 나라, 일본의 이야기를 주로 정치나 경제, 굵직한 사회 이슈에 한해 전달하는 경우가 많습니다. 대학에서 일본어를 전공하고, 일본에서 교환 유학을 하고, 일본 음식을 좋아하고, 일본 영화와 애니메이션을 즐겨보는 기자가 국내에서 찾아보기 어려운, 지금 일본에서 진짜 ‘핫’한 이야기를 전달해드립니다.

‘방구석 도쿄통신’, 지금 시작합니다.

최근 일본 소셜미디어에 급속도로 확산해 문제가 된 기시다 후미오 총리의 AI 가짜 동영상. 오사카에 사는 25세 남성이 만든 것으로, 기시다의 목소리를 AI에 학습시켜 자신이 시키는 말을 하도록 '조작'한 것이다. 이 영상에서 기시다는 입에 담기도 어려운 음담패설을 하는 모습이었다./니코니코동영상

어린 시절, ‘AI(인공지능)와 인간의 싸움’을 상상하면 고도화된 지능의 AI 로봇들이 인간 사회를 장악하고 첨단 기술이 종합된 치열한 전투가 벌어지는 모습을 그리곤 했습니다. 영화 ‘매트릭스(1999년 개봉)’나 ‘아이로봇(2004)’에서처럼요. 그 시절 상상했던 AI의 인간 사회 ‘전복(顚覆)’ 시도가 요즘 조금씩 현실화하고 있는 것 같습니다. 그런데 전혀 상상하지 못했던 방식으로요.

유명 연예인이나 정치인 얼굴을 AI(인공지능) 기술로 교묘하게 조작해 만든 ‘가짜 동영상’ 문제가 전 세계에서 부상 중입니다. 일본에서도 최근 기시다 후미오 총리에 이어 스가 요시히데 전 총리, 지난해 사망한 아베 신조 전 총리까지 ‘희생양’이 되었는데요.

AI로 만든 가짜 동영상은 제작이 간편한 반면, 보는 이 입장에선 실제 영상과 구분하기 어려울 정도로 ‘싱크로율’이 높습니다. 유명인에 대한 개인적인 증오나, 혹은 그저 심심풀이로 만들어진 영상 하나가 소셜미디어(SNS)를 타고 확산해 여론을 흔들고 사회적인 혼란을 일으킬 수 있다는 우려가 제기됩니다.

기시다 후미오 일본 총리/연합뉴스

이달 초 일본 X(옛 트위터) 등 소셜미디어엔 기시다 총리가 정장 차림으로 집무실로 보이는 공간에서 입에 담기도 어려운 음담패설을 하는 영상이 게재돼 삽시간에 퍼졌습니다. 3분43초짜리 이 영상에서 기시다는 남성 동성애자들의 성행위 장면을 비속어를 섞어가며 적나라하게 묘사하고 있었습니다.

영상 투고자는 오사카에 살고 있는 25세 무직 남성. 가짜 동영상이나 음성을 만들어주는 생성 AI를 활용해 1시간 만에 완성했다고 요미우리신문에 말했습니다. 그간 기시다 총리가 했던 기자회견이나 연설 영상에서 그의 목소리만 뽑아 AI에 학습시키고, 자신이 시키는 말을 하도록 ‘조작’했다고 하는데요.

이 영상은 당초 ‘니코니코동영상(ニコニコ動画)’이란 일본 동영상 플랫폼에 지난 7월 올라왔으나 주목받지 못했고, 길이를 지금처럼 늘려 이번 달 재게시했더니 조회수가 급증했다고 합니다. X에서만 하루 만에 230만 명 이상이 시청했다고 하는데요. 그는 과거 기시다 총리가 AI 연구자들과 회담하는 모습을 뉴스에서 보고, AI에 대한 기시다의 관심이 낮아 보이자 ‘가짜 동영상으로 골려주자’고 결심했다고 말했습니다.

고노 다로 일본 디지털상/연합뉴스

후폭풍은 엄청났는데요. 얼토당토않은 총리의 파격 발언을 듣고 사실일 거라 믿은 사람은 적었겠지만, 국가 수장의 얼굴과 목소리를 능욕당한 정부 입장에선 비판의 목소리를 낼 수밖에 없었습니다. 고노 다로 디지털상은 10일 기자회견에서 “매우 큰 문제”라며 “정부로서 어떻게 대처할지 제대로 검토하겠다”고 말했죠.

해당 가짜 동영상에서 기시다의 음담패설을 보도하는 것마냥 로고가 쓰인 민영 방송 ‘닛테레(日テレ·니혼테레비)’도 격노했습니다. 자사 로고를 무단 사용한 것에 대해 “용서할 수 없다”는 항의문을 즉각 발표, “필요에 따라 합당한 대응을 할 것”이라며 법적 조치까지 예고했는데요.

“그렇게까지 심각한 문제냐” “가짜 뉴스라곤 하지만 누구라도 ‘개그’를 위한 영상인 걸 알 수 있지 않으냐” “기시다는 공인인데, 이것도 안 되면 모든 풍자가 불가능하다는 것”이라는 등 궤변을 늘어놓던 게시자는 닛테레의 ‘강경 대응’ 예고에 이내 꼬리를 내렸습니다.

이번 달 초 니코니코동영상과 X(옛 트위터) 등에 기시다 후미오 일본 총리의 AI 가짜 동영상을 올린 게시자가 문제가 커지자 올린 사과글. "니혼테레비님, 기시다 총리의 AI 가짜 동영상은 모두 삭제하였으니 소송은 멈춰주시길 바랍니다. 저는 니혼테레비의 업무를 방해할 의도도, 공격할 의도도 없었습니다. 정중히 사과드립니다. 죄송합니다"라고 적혀 있다./X

그는 X에 “니혼테레비님, 기시다 총리의 ‘가짜 동영상’은 모두 삭제했으니 부디 소송을 하지 말아주세요”라며 “제겐 니혼테레비 업무를 방해할 의도도, 공격할 의도도 없었습니다”라는 사과문을 올렸습니다. 이후엔 닛테레 시청자 게시판에 “로고를 무단으로 사용해 실제 니혼테레비 방송으로 오인하게 했다는 점에 대해 사과드린다. 나는 그저 평온한 생활을 되찾고 싶다”는 글까지 올렸다고 하네요.

기시다 총리의 ‘가짜 동영상’ 파문은 이렇게 일단락되는 듯했습니다. 그러나 악재는 악재 속에서 더욱 힘을 발하는 법일까요. 이번엔 효고현에 거주하는 동갑내기(25세) 남성이 스가 전 총리와 지난해 7월 피격 사망한 아베 전 총리까지 타겟으로 삼아 만든 영상이 화제가 됐습니다.

유튜브 등 소셜미디어에 지난해 10월 올라온 아베 신조 전 총리의 AI 가짜 동영상. 아베 전 총리는 영상이 게시되기 세 달 전인 지난해 7월 피격 사망했다. 사진은 가짜 동영상 속 아베가 "예, 저를 맹신해준 덕분에 말이죠"라며 말을 이어가는 모습./유튜브

영상들은 지난해 10월부터 올 6월 사이 올라왔다가 또다시 뒤늦게 주목받고 있는데요. 영상 속 아베는 “사는 동안 하기 어려웠던 말을 이제야 전한다”며 특정 신흥종교와의 유착을 인정하는 듯한 발언을 하고, 다른 영상에선 대뜸 러시아 국가를 부르더니 하단엔 ‘내각 홍보실’이라는 문구가 삽입돼 있습니다. 지난 3월 올라온 스가 전 총리의 가짜 동영상에선 “정치가로서 난 소품일 뿐” “실패에 실패를 거듭해 일본 전체를 적으로 돌려버렸다”는 등의 멘트가 들렸습니다.

효고현에 산다는 이 게시자가 이달 10일까지 만든 정치인 가짜 동영상만 90편이 넘는다고 요미우리는 보도했습니다. 그는 “유언비어를 퍼뜨릴 의도까진 없었다”면서도, “이런 패러디를 계속하면 지지율에도 영향을 줄 수 있을 거라 본다”며 사실상 개인적인 감정에 의해 만든 것임을 시사했죠.

일본 배우 아오이 유우/조선일보DB

‘AI 테러’의 대상은 정치인뿐 아니었습니다. 긴 생머리와 청순한 분위기의 외모로 한국에서도 유명한 여배우 아오이 유우(38)도 타겟이 됐습니다. 정치인들과는 다르게 ‘가짜 동영상’에 의한 피해가 아닌, AI가 만든 ‘가짜 기사’로 인해 피해를 보고 있습니다.

최근 일본의 한 커뮤니티엔 ‘레이와 신센구미를 지지하는 유명인 정리!’라는 출처가 불분명한 기사 하나가 올라왔습니다. ‘레이와 신센구미(れいわ新選組)’는 진보 성향 야당으로, 배우 출신 정치인 야마모토 타로(山本太郎·49)가 2019년 창당했습니다. 야마모토는 2000년 개봉한 기타노 다케시 주연 영화 ‘배틀로얄’에 출연한 것으로 유명합니다.

최근 일본의 한 커뮤니티에 올라온 출처 분명의 기사 한 부분. 2019년 창당된 진보 성향 야당 '레이와 신센구미'를 지지하는 연예인들의 발언을 모아놨다. 해당 기사는 AI가 작성한 가짜 뉴스로 나중에 밝혀졌다. 이 게시글은 현재 삭제된 상태다.

그런 레이와 신센구미를 어느 유명인이 지지하는지 기사로 정리했다는 것인데요. 이 리스트에 아오이를 비롯한 여러 연예인의 이름이 올랐습니다. 그리고선 아오이가 소셜미디어에서 이 정당을 공개 지지했다며, 그가 “저는 레이와 신센구미 정책에 공감합니다. 타로씨는 젊은이들을 항상 진지하게 대합니다. 저도 그처럼 사회에 공헌할 수 있도록 노력하겠습니다”란 코멘트를 남겼다고 소개했죠.

아오이 외에도 야마모토 미즈키(여배우), 카토 세이시로(남배우) 등이 리스트에 포함됐습니다. 배우 출신 정치인이 만든 정당이다 보니, 이처럼 유명 연예인들의 연달은 공개 지지 발언 소식은 많은 사람에게 그럴싸하게 들릴 수밖에 없었습니다.

2019년 창당된 일본 정당 레이와 신센구미 로고와 야마모토 타로 대표./레이와 신센구미

게시글이 소셜미디어에서 점점 화제가 되자, 연예인들 소속사는 재빨리 “사실무근”이라는 성명을 냈습니다. 레이와 신센구미도 “이들의 코멘트를 듣지도 못했을 뿐더러 그러한 사실도 없다”고 직접 부인했죠. 정당은 또 기사 작성자에게 법적 조치를 검토하겠다고 밝혔습니다.

해당 기사를 쓴 당사자는 지난 10일 니혼테레비 인터뷰에서 문제의 게시글이 “AI를 통해 만든 것으로 내용을 제대로 체크하지 않았다. 이런 사태가 벌어지고 있는 줄도 몰랐다. 폐를 끼쳐 죄송하고 앞으로 반성하겠다”고 사과했습니다. 그가 운영하는 커뮤니티에는 챗GPT를 활용한 것으로 보이는 비정상적인 기사가 하루에도 수십 건씩 양산되고 있었다는데요. 이러한 기사들로 막무가내로 조회수를 높여 광고 게재 등 수익을 얻으려던 의도로 보인다는 게 현지 언론들의 추측입니다.

2000년 일본에서 개봉한 기타노 다케시 주연의 영화 '배틀로얄' 속 캐릭터 카와다 쇼고. 무력을 쓰는 캐릭터로 영화의 '진주인공'이라고 평가받았다. 이 캐릭터를 연기한 배우 야마모토 타로는 2019년 정당 레이와 신센구미를 창당해 정치인으로 활동하고 있다.

전문가들은 문제의 심각성을 지적하고 있습니다. 후지시로 히로유키 호세이대 소셜미디어론 교수는 요미우리에 “‘생성 AI’의 등장으로 누구나 짧은 시간에 정교한 가짜 동영상을 만들어낼 수 있단 점에서 사회에 큰 위협”이라며 “정치인의 가짜 발언이 뉴스 형태로 사실인 것처럼 확산하면 사회가 얼마나 혼란해질지 가늠할 수 없다. AI 동영상엔 AI가 제작했음을 보여주는 마크가 달리도록 의무화하거나 소셜미디어엔 게시할 수 없도록 제도화하는 등 대책이 필요하다”고 제언했습니다.

오리타 아키코 칸토가쿠인대학 정보사회학 교수는 작년 사망한 아베 전 총리까지 가짜 동영상의 표적이 되었음을 언급하며 “공인이라고 해도 유족의 동의 없이 목소리나 얼굴을 마음대로 사용하는 것엔 윤리적 문제가 있다”고 비판했습니다.

'도쿄 타워'가 보이는 일본의 수도 도쿄의 전경/조선일보DB

11월 15일 열세 번째 ‘방구석 도쿄통신’은 최근 일본 사회를 뒤흔들고 있는 무분별한 AI 악용 사례에 대해 소개해 드렸습니다. 다음 주에도 일본에서 핫하고 재미있는 이야기들을 알려드리겠습니다. 11~12편 링크는 아래에서 확인하세요.

“꾸밈없는 내 모습 사랑해줘” SNS로 발산하는 日대학생들 외침 ☞ chosun.com/international/japan/2023/11/01/C7IJ6A7PVJDH7C3ZNFNB5RGOEQ/

‘재생’ 바라며 10년 가꿨더니… ‘범죄 온상’ 변질한 日태양광시설 ☞ chosun.com/international/japan/2023/11/08/3GC5U6KDNNBUTPF7FBTCQQQGYI/

‘방구석 도쿄통신’은 매주 수요일 연재됩니다. 관심 있는 분이라면 하단의 ‘구독’ 링크를 눌러주세요. 이메일 주소로 ‘총알 배송’됩니다.

이번 한주도 평안하시길 바랍니다. 다음 주 수요일에 뵙겠습니다.

방구석 도쿄통신 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/275745