[여백] AI 조작영상

김재근 선임기자

딥 페이크(Deep fake)가 무서운 속도로 진화하고 있다. 딥 페이크는 인공지능(AI) 기술을 이용하여 사람의 얼굴 음성 행동을 실제의 인물처럼 합성(조작)해낸 것을 말한다. 이들 영상의 수준은 불과 몇 개월 전보다도 확연히 다르다. 갈수록 정교해져서 사람이 직접 등장하는 것과 구분할 수 없을 정도이다. 특정인과 얼굴 음성 행동 등이 거의 흡사한 것도 있다.

유튜브나 페이스북 등 온라인에 인공지능으로 만든 별의별 영상이 나돈다. 노래와 춤, 게임, 스포츠, 음식 관련 영상이 넘쳐난다. 이미 AI가수(가상가수)도 생겨났다. 일본서 만든 하츠네 미쿠, 미국에서 제작한 릴 메켈라처럼 팬덤을 가진 '스타'도 출현했다. 한국에서 제작한 AI가수도 등장하고 있다.

요즘 가짜 이국종교수 사건이 화제다. 이 교수는 대한민국이라면 모르는 이가 없을 정도로 유명한 사람이다. 중증외상 치료전문가로 아주대병원에서 근무했으며 현재는 국군대전병원장으로 일하고 있다. 이러한 이 병원장을 등장시킨 딥 페이크 영상이 유튜브에 계속 올라오고 있는 것이다. 유튜브 '건강의 지혜'에는 AI 이 병원장이 등장하는 뇌경색과 고지혈증, 근육감소증, 치매 관련 영상을 볼 수 있다. 네티즌들이 이 영상을 믿고 따라할까 겁난다.

미국에서는 딥 페이크와 관련 여러 건의 사망 사건이 일어났고, 유족들이 회사를 상대로 소송까지 제기했다. 14세의 소년이 인공지능 게임에 빠져 우울감과 고립감으로 자살을 했고, 36세 남성이 챗봇을 과도하게 의지해 현실과 망상을 구분하지 못해 자살한 사건도 발생했다.

이국종 교수가 등장하는 유튜브 건강 관련 딥 페이크 콘텐츠. 사진=건강의 지혜 유튜브 캡처

딥 페이크가 어쩔 수 없는 대세이지만 그 부작용이 여간 심각한 게 아니다. 부당한 방법으로 돈을 버는 것을 넘어 세상을 송두리째 흔들 위험성도 많다. 유명인사나 정부 당국자가 등장하는 가짜 영상이 사회적 혼란을 조장하고 전쟁까지 일으킬 수도 있는 것이다.

공공질서를 무너뜨리고 범죄와 사회적 혼란, 성범죄, 금융사고, 전쟁을 유발할 만한 것 등은 엄하게 처벌하고 책임을 물어야 한다. AI생성 표시를 전면 의무화하고 탈법적 이익을 차단하도록 제도를 갖춰야 한다. 선제적이고 적극적으로 범죄성 딥 페이크 제재대책을 마련하는 것을 반대할 국민은 없다.