“일반인도, 아이도 딥페이크 당한다”…미국선 징역 40년형 철퇴 [박민기의 월드버스]

AI 기술 발전에 ‘딥페이크 음란물’ 성행
과거 공인 위주서 이제 일반인 주요 타깃
유료 웹사이트에 하루 약 1000명 방문도
사진 무분별 악용으로 윤리적 문제 야기
틱톡 등 SNS, ‘키워드 차단’ 등 검열 나서

기술의 발전에 따라 범죄의 유형도 갈수록 다양해지고 있습니다. 이 과정에서 일부 범죄의 수법은 한층 더 대범해졌습니다. 최근 사회적으로 큰 논란을 불러일으킨 ‘딥페이크 음란물’이 대표적입니다. 딥페이크란 인공지능(AI) 기술을 기반으로 하는 인물 사진 합성 기술을 뜻합니다. AI 기술 발전에 따라 인물의 얼굴이나 특정 신체부위를 교묘하게 짜집기해 재생산하는 사진과 영상물 등이 포함됩니다. 과거에는 기술력 부족으로 화질이 조악한 수준이었지만 지금은 실사와 구분이 안 될 정도로 뚜렷한 이미지를 생성할 수 있게 됐습니다. 문제는 이처럼 기술력이 뒷받침되기 시작하면서 이를 악용하는 사례가 늘고 있다는 점입니다. 처음에는 연예인 등 공인 위주로 이뤄졌던 딥페이크 음란물 범죄가 이제 일반인을 주요 타깃으로 삼기 시작했습니다.

AI 기술을 활용해 사진 속 여성의 옷을 벗기거나 얼굴 사진을 다른 나체 사진과 합성하는 서비스 등을 제공하는 앱 인기가 급증하고 있습니다. 소셜네트워크 분석 기업 그라피카는 올해 9월 한 달 동안에만 약 2400만 명이 옷 벗기기 서비스 등을 제공하는 딥페이크 웹사이트를 방문했다고 밝혔습니다. 매달 9.99달러(약 1만3000원)의 요금을 부과하는 일부 서비스들은 자사 웹사이트를 찾는 이용자 수가 늘면서 트래픽이 대폭 증가했다고 주장했습니다. 한 웹사이트의 경우 하루 방문자가 1000명을 넘는 것으로 전해졌습니다. 이용자들은 해당 웹사이트에서 AI 기술을 활용해 사진 속 인물을 나체로 만드는 등의 음란물 제작 서비스를 주로 이용하는 것으로 알려졌습니다. 블룸버그는 관련 서비스 대부분이 여성을 상대로 사용되고 있다고 보도했습니다.

이처럼 딥페이크 웹사이트가 우후죽순 생겨나는 데는 이유가 있습니다. 10대부터 30대까지 젊은 연령층이 자주 이용하는 SNS가 홍보 창구 역할을 하고 있기 때문입니다. 실제로 올해 초부터 ‘X(옛 트위터)’와 레딧 등을 포함한 SNS에서 딥페이크 웹사이트나 앱을 광고하는 링크 수는 과거 대비 2400% 이상 증가한 것으로 나타났습니다. 누드사진 서비스를 제공하는 앱 중 하나는 구글 유튜브에 광고를 위한 스폰서 콘텐츠 비용을 지불해 ‘벌거벗기다(nudify)’라는 단어를 검색하면 가장 먼저 이용자에게 노출되는 것으로 알려졌습니다. 이에 구글 대변인은 “문제가 된 광고들을 검토하고 정책에 위배되는 경우 삭제 조치하고 있다”고 블룸버그에 전했습니다. 또 다른 SNS인 레딧의 대변인도 성적으로 위조된 게시물의 공유를 금지하고 있으며 주기적인 자체 조사를 통해 적발된 사진들을 모두 삭제하고 있다고 밝혔습니다.

공인 등 특정 인물의 사진을 조작해서 생성하는 ‘가짜 음란물’은 오랜 기간 인터넷의 골칫거리였습니다. 그러나 불과 몇 년 만에 과거 대비 훨신 더 뚜렷하고 현실같은 이미지를 만들 수 있는 오픈소스와 서비스들이 출시되기 시작했습니다. 보안전문가들은 AI 기술의 발전이 딥페이크 소프트웨어 사용을 더 쉽고 효과적으로 만들고 있다는 우려를 쏟아내고 있습니다. 제대로 된 관리·감독 없이 기술 발전이 계속될 경우 앞으로 딥페이크 포르노를 비롯해 새로운 형태의 범죄가 확산할 수 있다는 경고도 나옵니다. 특히 옷 벗기기 서비스 등 딥페이크 음란물은 SNS에 올라온 인물 사진을 당사자 동의 없이 무분별하게 악용할 수 있어 심각한 법적·윤리적 문제를 야기할 수 있습니다.

그라피카 소속 분석가 산티아고 라카토스는 “과거에는 성능의 한계로 딥페이크로 생성되는 이미지 화질이 흐릿했지만 이제는 기술 발전으로 진짜처럼 보이는 사진을 얼마든지 만들어낼 수 있다”고 말했습니다.

웹사이트가 확산하면서 이제는 공인을 넘어 일반인을 대상으로 무분별하게 이뤄지는 딥페이크 범죄도 심각한 문제입니다. 그러나 대다수의 딥페이크 음란물 피해 당사자는 본인이 희생자가 됐다는 사실조차 모르는 경우가 부지기수입니다. 더 큰 문제는 설사 이를 발견한다고 해도 법의 도움을 받기는 쉽지 않다는 점입니다. 현재 미국에서는 딥페이크 포르노 등 불법 음란물 제작을 금지하는 구체적인 연방법이 아직 마련되지 않았습니다. 그러나 아동 대상 범죄에 특히 더 보수적인 미국 정부는 미성년자를 대상으로 이 같은 음란물을 제작하는 범죄는 엄격하게 다루고 있습니다. 올해 11월 노스캐롤라이나의 한 아동정신과 의사는 자신에게 진료를 받은 아동의 사진과 나체 사진을 합성하는 불법 아동 음란물 제작 혐의로 40년의 징역형을 선고받았습니다. 이는 아동에 대한 딥페이크 음란물 사용 금지 조치가 내려진 이후 첫 처벌 사례인 것으로 전해졌습니다.

이처럼 딥페이크 음란물 우려가 확산하면서 사람들이 자주 사용하는 주요 앱과 SNS 등은 엄격한 자체 검열에 나섰습니다. 틱톡은 서비스 내 인기검색어에서 ‘옷 벗기기(undress)’라는 키워드를 차단하고, 이를 검색하는 이용자들에게 ‘해당 단어 검색은 틱톡 지침을 위반하는 행동이 될 수 있다’는 경고를 보내고 있습니다. 메타플랫폼 역시 옷 벗기기 앱을 연상시키는 주요 단어 검색을 차단하기 시작했습니다.

디지털 권리 옹호단체 일렉트로닉 프론티어재단의 에바 갈페린 사이버보안국장은 “이제는 공인을 넘어 일반인을 대상으로 한 딥페이크 음란물 공유도 점점 더 늘고 있다”며 “특히 고등학생과 대학생 사이에서 그 사용이 더 두드러지고 있는 만큼 주의해야 한다”고 강조했습니다.

[매일 쫓기는 바쁜 일상 속에서도 알면 알수록 더 좋은 국제사회 소식. 전 세계가 주목하는 한 주의 가장 핫한 이슈만 골라 전해드립니다. 단 5분 투자로 그 주의 대화를 주도하는 ‘인싸’가 될 수 있습니다. 읽기만 하세요. 정리는 제가 해드릴게요. 박민기의 월드버스(World+Universe) 입니다.]