“해외플랫폼서 대부분 음란물 제작”…피해신고 영어로, 삭제하려면 하세월

[사진 출처 = 연합뉴스]

인공지능(AI)을 활용한 딥페이크물이 범람하고 있는 가운데, 외국계 플랫폼 기업에 대한 관리 감독의 사각지대에 놓여있다는 지적이 일고 있다.

대표적인 것이 피해자의 신고 구제 절차다. 특정 인물 사진을 딥페이크로 합성한 ‘가짜 포르노그라피’물이 외국계 플랫폼을 통해 확산되고 있지만, 정작 피해자가 이를 플랫폼에 신고해 삭제하는데 까지는 상당한 시간이 걸리거나 사실상 불가능하다는 비판이다.

딥페이크 피해는 전 세계적이다. 문제는 한국인들 피해가 글로벌 플랫폼을 통해 이뤄지는데도 정부의 제대로 된 대책이 없다는 점이다. 딥페이크 영상·이미지물은 한 번 제작된 뒤 딥페이크 전용 성인 웹사이트, 일반 포르노 웹사이트, 소셜미디어 플랫폼을 통해 유통된다.

AI 탐지 전문 업체인 브랜드웰의 저스틴 맥길 창업자겸 최고경영자(CEO)는 “딥페이크만 다루는 전문적인 ‘딥누드’와 같은 앱이 등장할 정도로 딥페이크 물이 광범위하게 유통되고 있다”면서 “특히 한국인 비중이 크다는 점에서 놀랍다”고 말했다. 브랜드웰에 따르면, 딥페이크 포르노 사이트에서 등장하는 인물을 국적별로 살펴보면, 미국 41%, 한국 25%, 인도 13%, 영국 12%, 캐나다 6% 순이다.

한국의 K팝이 인기를 끌면서, 전 세계적으로 한국인을 상대로 한 딥페이크 포르노물이 넘쳐나고 있다는 뜻이다. 하지만 이런 사실을 발견하더라도 신고 절차는 쉽지 않다. 구글 유튜브나 메타 인스타그램과 같은 빅테크 기업 플랫폼은 그나마 나은 편이다. 신고에서 삭제까지 며칠이 걸리지만 소통할 수 있는 창구는 있다. 유튜브는 ‘신고’버튼을 눌러 ‘내 권리 침해’를 신고해야 한다. ‘내 이미지가 나옵니다’, ‘내 자녀가 나옵니다’중 택일하고 해당 콘텐츠 출처까지 입력해야한다. 메타 역시 ‘나체 이미지’ ‘스캠 사기·사칭’을 선택해 신고하기를 받고 있다.

문제는 한국 담당 관리자가 없는 글로벌 플랫폼이다. 특히 텀블러는 텔레그램과 함께 딥페이크물이 확산되는 통로로 꼽힌다. 워드프레스 운영사인 오토매틱이 소유한 텀블러(tumblr)는 인스타그램, 트위터, 페이스북을 합친듯한 소셜미디어로 전 세계에서 3억7000만명이 이용 중인 글로벌 서비스텀블러는 웹에서는 신고조차 할 수 없고, 상세 신고를 하려면 피해자가 영어로 일일이 어떤 방식으로 피해를 입었는지 내용을 증명해야한다.

텀블러는 그동안 불법 영상물 통로로 주로 활용됐다. 앞서 2018년 기숙사 내부를 몰래 촬영한 것으로 보이는 영상 캡처 사진이 확산된 것이 대표적이다. 당시 경찰은 한국 담당자가 없어 미국 당국에 형사사법공조를 요청해 해당 문제를 풀었다.

텔레그램 역시 피해자가 직접 스크린샷을 찍어 텔레그램 팀에 이메일을 발송해야한다.

글로벌 소셜미디어 상에서 타인을 ‘왕따’시키는 행위가 벌어지거나, 불법 음란물이 유통된 것은 어제 오늘 일이 아니다. 하지만 AI를 활용한 악성 영상·이미지가 확산되면서, 한국인이 미국 다음으로 큰 피해를 입고 있다.