"해외플랫폼이 음란물 온상 피해신고 영어로 접수해야"

복잡한 신고절차 피해자 눈물
딥페이크 유통통로 '텀블러'
한국 담당 없어 삭제 하세월

◆ 딥페이크 포비아 ◆

인공지능(AI)을 활용한 딥페이크물이 범람하고 있는 가운데 외국계 플랫폼 기업에 대한 관리감독이 사각지대에 놓여 있다는 지적이 일고 있다.

대표적인 것이 피해자의 신고 구제 절차다. 특정 인물 사진을 딥페이크로 합성한 '가짜 포르노그래피'물이 외국계 플랫폼을 통해 확산되고 있지만 정작 피해자가 이를 플랫폼에 신고해 삭제하는 데까지는 상당한 시간이 걸리거나 사실상 불가능하다는 비판이 나온다. 딥페이크 피해는 전 세계적이다.

문제는 한국인들이 글로벌 플랫폼에서 피해를 입는데도 정부의 제대로 된 대책이 없다는 점이다. 딥페이크 영상·이미지물은 한 번 제작된 뒤 딥페이크 전용 성인 웹사이트나 일반 포르노 웹사이트, 소셜미디어 등을 통해 유통된다.

AI 탐지 전문업체인 브랜드웰의 저스틴 맥길 창업자 겸 최고경영자(CEO)는 "'딥 누드'와 같이 딥페이크만 다루는 전문 앱이 등장할 정도로 딥페이크물이 광범위하게 유통되고 있다"면서 "특히 한국인 비중이 크다는 점에서 놀랍다"고 말했다. 브랜드웰에 따르면 딥페이크 포르노 사이트에서 등장하는 인물은 국적별로 미국 41%, 한국 25%, 인도 13%, 영국 12%, 캐나다 6% 순이다.

한국의 K팝이 인기를 끌면서 전 세계적으로 한국인을 상대로 한 딥페이크 포르노물이 넘쳐나고 있다는 뜻이다. 하지만 이런 사실을 발견하더라도 신고 절차는 쉽지 않다. 구글 유튜브나 메타 인스타그램 같은 빅테크 기업 플랫폼은 그나마 나은 편이다. 신고부터 삭제까지 며칠이 걸리지만 소통 가능한 창구는 있다. 유튜브는 '신고' 버튼을 눌러 '내 권리 침해'를 신고해야 한다. '내 이미지가 나옵니다' '내 자녀가 나옵니다' 중 택일하고 해당 콘텐츠 출처까지 입력해야 한다. 메타 역시 '나체 이미지' '스캠 사기·사칭'을 선택해 신고를 받고 있다.

문제는 한국 담당 관리자가 없는 글로벌 플랫폼이다. 특히 텀블러(tumblr)는 텔레그램과 함께 딥페이크물이 확산되는 통로로 꼽힌다. 워드프레스 운영사인 오토매틱이 소유한 텀블러는 인스타그램·트위터·페이스북을 합친 듯한 소셜미디어다. 전 세계에서 3억7000만명이 이용 중인 글로벌 서비스 텀블러는 웹에서 신고조차 할 수 없고 상세 신고를 하려면 피해자가 영어로 일일이 어떤 방식으로 피해를 입었는지 내용을 증명해야 한다.

텀블러는 그동안 불법 영상물 유통 경로로 주로 활용돼왔다. 앞서 2018년 기숙사 내부를 몰래 촬영한 것으로 보이는 영상 캡처 사진이 확산된 게 대표적이다. 당시 경찰은 한국 담당자가 없어 미국 당국에 형사사법공조를 요청해 해당 문제를 풀었다.

텔레그램 역시 피해자가 직접 스크린샷을 찍어 텔레그램 팀에 이메일을 발송해야 한다.

[이상덕 기자]