“음란물에 왜 내가 나와”…4700만명 보고 발칵 뒤집어진 미국 [박민기의 월드버스]

정치인 등 사진 합성 ‘딥페이크 게시물’ 범람
유명 팝스타 테일러 스위프트 음란물 확산돼
바이든 대통령 목소리 본딴 ‘가짜전화’도 나와
올 11월 美대선 앞두고 ‘여론 조작’ 우려 커져
규제할 수 있는 법안 공백…美정치권 논의 시작

지난 주말 미국 사회가 발칵 뒤집어졌습니다. 세계적인 팝스타 테일러 스위프트가 나오는 음란물이 인터넷상에서 거침없이 퍼져나갔기 때문입니다. 이는 인공지능(AI) 기술을 활용해 스위프트의 얼굴과 음란물을 합성한 ‘딥페이크 이미지’로 진짜가 아니었습니다. 그러나 온라인상에서는 진짜인지 가짜인지와는 무관하게 관련 게시물이 빠르게 확산했습니다. 한 이용자가 X(옛 트위터)에 올린 스위프트 딥페이크 이미지는 19시간 동안 4700만회 이상의 조회수를 기록했습니다. 해당 이미지를 공유한 다른 계정의 게시물들도 각 수백~수천만 건의 조회 수를 기록했습니다. X를 비롯한 각 SNS는 이 같은 사실을 인지하고 해당 이미지를 삭제하는 등 사태 진화에 나섰지만 이미 미 전역에서 대다수의 사람들이 보고 난 뒤였습니다.

AI 기술을 활용해 특정 인물을 대상으로 무분별하게 생산되는 딥페이크 이미지와 영상 등이 급증하면서 사회 문제로 떠오르고 있습니다. 특히 올해 11월 미국 대통령 선거를 앞두고 있는 시기에 딥페이크 게시물이 활개를 치면서 가짜뉴스와 여론 조작 등 위험성에 대한 경고도 나오기 시작했습니다. 스위프트의 사진을 합성한 이번 딥페이크 이미지를 비롯해 그 전에는 조 바이든 미국 대통령의 목소리를 흉내 낸 자동녹음전화(로보콜) 등이 온라인상에서 빠르게 확산했습니다. 미 뉴햄프셔주 대선 예비선거를 앞두고 유권자들은 바이든 대통령의 목소리로 “예비선거를 건너뛰라”고 말하는 전화를 받아야 했습니다. 그러나 이들은 모두 진짜가 아니었습니다. 전문가들은 딥페이크 오디오나 영상이 앞으로 치러질 미 대선에서 여론 조작 등 부정적 영향을 미칠 수 있다고 우려하고 있습니다.

AI 기술이 사용된 딥페이크 등 가짜 게시물의 등장이 완전히 새로운 소식은 아닙니다. 그러나 AI 기술의 고도화로 딥페이크 게시물이 점점 더 교묘해지면서 대중이 진짜와 가짜를 구별하기가 훨씬 더 어려워지고 있습니다. 생산되는 게시물 수도 매년 급증하고 있습니다. 한 조사 결과에 따르면 AI 기술 열풍이 본격화한 2020년 이후 새로운 딥페이크 음란물 영상 업로드 수는 약 9배 증가한 것으로 나타났습니다. 디지털포렌식 전문가 헤더 마할릭 반하트는 “이번에 논란이 된 이미지가 아무리 가짜라고 해도 이를 직접 봤을 스위프트 부모님의 마음이 어땠을지를 생각해 보라”며 “AI가 만든 가짜든 진짜든 당사자에게 어떤 방식으로도 피해를 주는 것은 마찬가지”라고 말했습니다.

문제가 갈수록 심각해지면서 미국 사회에서는 AI를 활용한 딥페이크 게시물을 규제해야 한다는 목소리가 높아지고 있습니다. 딥페이크 게시물의 주요 확산 통로로 소셜미디어가 지목되면서 SNS 자체적으로 이를 걸러낼 수 있는 시스템을 갖춰야 한다는 지적도 나옵니다. X와 같은 SNS는 AI 등을 활용해 합성되거나 조작된 콘텐츠 업로드를 금지하는 자체 규정을 두고 있습니다. 그러나 딥페이크 게시물을 즉각 탐지하고 삭제할 수 있는 시스템은 없어 확산 전에 이를 사전 감지하고 지우는 것이 쉽지는 않은 것이 현실입니다. 실제로 이번 스위프트 딥페이크 이미지가 퍼져나갈 때도 X의 완전 삭제 조치까지는 수시간이 걸렸습니다.

일부 동영상 공유 앱들은 민간인이나 어린이를 대상으로 하는 AI-제작 콘텐츠 게시를 자체적으로 금지하고 있습니다. 그러나 이들의 학대와 죽음 등을 다루는 자극적 딥페이크 영상도 여전히 떠돌아다니며 수천 건의 조회 수를 기록하고 있는 실정입니다. 이 같은 문제 해결을 위해 동영상 플랫폼 틱톡은 딥페이크 게시물 감지 기술 개발을 위한 투자를 늘리고, 자사 직원들을 대상으로 관련 콘텐츠의 위험성을 강조하는 교육을 진행하고 있습니다. X는 스위프트 딥페이크 이미지 확산 이후 성착취물이나 허위정보를 단속하기 위한 ‘신뢰와 안전센터(Trust and Safety Center of Excellence)’를 신설하기로 결정했습니다.

딥페이크 게시물을 규제할 수 있는 법안의 공백도 또 다른 문제로 지적됩니다. 현재 미 연방법상 음란물을 포함한 딥페이크 게시물을 금지할 수 있는 정식 법안은 아직 마련되지 않았습니다. 일부 주에서는 딥페이크 포르노 규제를 위한 법안이 시행되고 있지만 전국에서 일관되게 적용되지는 않는 만큼 피해자들이 가해자들에게 직접 책임을 묻기가 쉽지 않은 상황입니다. 이에 미 정부는 피해자들을 위해 딥페이크 게시물을 관리감독할 수 있는 대책을 하나씩 마련해나가기 시작했습니다.

바이든 대통령은 딥페이크 게시물이 야기할 수 있는 온라인 폭력과 학대에 대응하기 위한 태스크포스(TF)를 출범했습니다. 미 법무부는 딥페이크 이미지로 인한 성적 피해자들과의 소통을 위한 핫라인을 구축했고, 미 백악관은 AI 기술로 만들어진 딥페이크 게시물에 워터마크를 삽입하도록 하는 방안을 추진 중입니다. 미 의회는 잘못된 AI 사용으로부터 연예인과 예술가의 목소리 등 지적재산권을 보호하기 위한 입법 조치 마련 논의를 시작했습니다.

AI 전문가 헨리 아이더는 “인터넷 이용자들에게 막대한 피해를 입히는 AI 기술 활용 딥페이크 음란물을 감시하고 관리해야 할 책임은 전적으로 소셜미디어 기업과 규제당국에 있다”고 강조했습니다.

[매일 쫓기는 바쁜 일상 속에서도 알면 알수록 더 좋은 국제사회 소식. 전 세계가 주목하는 한 주의 가장 핫한 이슈만 골라 전해드립니다. 단 5분 투자로 그 주의 대화를 주도하는 ‘인싸’가 될 수 있습니다. 읽기만 하세요. 정리는 제가 해드릴게요. 박민기의 월드버스(World+Universe) 입니다.]