샤오미 회장 왜 화났어?…알고 보니 AI 음성 입힌 가짜 영상

AI 더빙으로 만든 레이쥔 영상들 / 중국 온라인 플랫폼

레이쥔 샤오미 회장이 중국 국경절 연휴 기간 교통체증 등의 문제로 사람들을 꾸짖는 쇼츠 영상이 온라인을 휩쓸었으나 인공지능(AI) 음성을 입혀 만든 가짜 영상으로 밝혀졌다.

11일 홍콩 성도일보 등에 따르면 국경절 연휴였던 지난 1~7일 중국 동영상 플랫폼에는 레이 회장의 단편 영상이 여러 건 올라왔다. 영상에서 레이 회장은 교통체증, 휴일, 게임 등의 주제로 연설했으며 비속어를 사용해 사람들을 꾸짖기도 했다. 샤오미 신형 전기차인 SU7로 사람을 치거나 샤오미 휴대전화를 원격제어해서 누군가를 해치고 싶다고도 말했다.

온라인에는 “국경절 연휴 7일 동안 레이쥔에게 꾸지람을 들었다”는 조롱도 등장했다. 몇몇 네티즌들은 레이 회장의 사회관계망서비스(SNS)에 “요즘 왜 그렇게 사람을 꾸짖고 다니나요?”라고 물었고, 레이 회장은 화난 표정의 이모티콘으로 응수했다. 영상은 가짜였기 때문이다.

성도일보는 샤오미 관계자가 해당 영상은 레이 회장의 연설에 AI 음성을 입혀 만든 가짜 영상이며 회사 법무팀이 대응하고 있다고 말했다고 전했다. 동영상 플랫폼에서 해당 영상들은 삭제된 상태이다.

중국에서는 AI로 만든 영상에 대한 규제 논의가 다시 불붙고 있다. AI 더빙 앱을 이용하면 손쉽게 영상을 만들 수 있다. 앱에 영상을 올린 뒤 원하는 목소리를 선택하고 텍스트만 입력하면 된다. 영상 만들기는 온라인의 놀이 문화로 정착됐으나 유명인을 사칭해 혼란을 일으키거나 악용하는 사례가 있어 문제가 돼 왔다.

AI 더빙 앱 제작업체가 음성을 무단 도용하는 일도 있었다. 베이징인민법원은 지난 8월 ‘인’이라고 알려진 성우의 목소리를 무단으로 도용한 기술 회사가 해당 성우에게 25만위안(약4764만원)을 배상하라고 판결했다. 이는 중국에서 음성도 초상권처럼 보호 대상으로 본 첫 판례이다.

중국 당국은 지난달 AI로 제작된 콘텐츠에 이를 표시하고 식별할 수 있도록 의무화하는 규정을 발표해 의견 수렴 중이다.

베이징 | 박은하 특파원 eunha999@kyunghyang.com