해외 플랫폼 규제에 머스크도 쩔쩔매는데…딥페이크 1위 한국은 ‘구멍 숭숭’
디지털 성범죄물 ‘미삭제율’ 매년 25~37%…“해외 불법 사이트가 대부분”
(시사저널=강윤서 기자)
"딥페이크 음란물이 만들어지면 지구 반대편까지 퍼지는 건 금방이다. 빠르면 몇 분만에도 가능하다. 다시 말하면 완벽한 피해 구제는 불가능하다." (최경진 가천대 법과대학 교수이자 인공지능·데이터 정책연구센터장)
디지털 성범죄 피해자들의 성착취물 유포에 대한 불안이 커지고 있다. 게다가 한 번 퍼진 불법 영상물은 영구 삭제가 어렵다. 때문에 이들의 정신적 피해가 성범죄를 반복적으로 겪는 수준이란 우려가 제기된다. 국회는 관련 입법에 속도를 내며 뒤늦게 피해 수습에 나섰다. 하지만 결국 플랫폼의 협조 없이는 삭제가 불가능한 게 현실이다. '딥페이크 음란물 피해' 1위란 오명을 쓴 한국이 하루빨리 플랫폼 규제 방안을 강구해야 한다는 목소리가 커지고 있다.
해외 플랫폼 시정 요청 '엑스'가 최다
일단 불법 영상물 삭제는 범죄자 검거만큼 피해자에게 가장 중요한 조치로 꼽힌다. 김세희 서울중앙지검 검사는 9월19일 국회 정책토론회에서 "허위 영상물을 삭제하려면 1500여 개 기관·업체에 요청해야 한다. 결국 극단적 시도를 하는 피해자들도 생기고 있다"며 피해자 개개인이 마주한 현실을 지적했다.
피해가 가장 많이 발생한 플랫폼은 어디일까. 시사저널이 입수한 '방심위 해외 플랫폼별 시정요청 현황'에 따르면 최근 5년간 가장 많은 시정요청을 한 플랫폼은 엑스(X·옛 트위터)로 12만2918건이었다. 인스타그램(2만3703건), 유튜브(1만2954건), 페이스북(8900건), 구글(5280건) 등이 뒤를 이었다.
시정요청 이행률은 18만9466건 가운데 16만8743건(89%)으로 비교적 높은 편이다. 사실상 방심위 협력 대상에 포함만 돼도 범죄 확산을 줄이는 효과를 기대할 수 있다. 시정요청은 방심위가 원정보 삭제 등을 해당 플랫폼에 요구하는 행위다. 각 플랫폼은 이를 반드시 이행할 의무는 없지만 정부 요청에 적극 협력하겠다는 취지로 협력 대상을 맺는다.
그러나 정작 범죄의 온상으로 꼽히는 텔레그램에 대한 조치는 더디다는 지적이 나온다. 방심위는 2020년부터 이들 플랫폼 5개와 시정요청 협력 대상을 맺었다. 이후 2022년 틱톡, 텀블러, 핀터레스트, 미디엄, 윅스, 왓패드 등 6개가 추가돼 총 11개로 늘어났다. 텔레그램에 대해서는 2019년 말 'N번방' 사건 후 2년이 지나서야 시정요청 협력 대상 추진을 진행했다.
방심위 관계자는 "텔레그램 관리는 최근 세계적으로 (범죄 방조 책임론 등) 급물살을 타면서 물꼬를 튼 셈"이라며 "(시정요청 이행률 등) 정확한 집계는 아직 만들어가는 과정"이라고 답했다. 올해 들어 7월까지 방심위가 텔레그램에 시정요청한 사례는 총 78건뿐이다.
협력 대상이 아닌 불법 영상물 삭제 조치 실태는 더 심각하다. 현행법상 불법 영상물 삭제의 주체는 인터넷 사업자이기에 센터가 직접 삭제와 차단에 개입할 권한도 없다. 여성가족부 산하 한국여성진흥원의 디지털성범죄피해자지원센터(이하 디성센터)는 2020년부터 지난 6월까지 삭제 요청을 받은 불법 촬영물 93만8000건 가운데 26만9000건(29%)을 지우지 못했다.
"10대 플랫폼 사용 제한" 목소리 커져
완전 삭제가 어려운 이유는 해외 서버에서 확산하는 불법 영상물에 대한 규제가 힘들기 때문이다. 상대방 동의 없이 촬영·유포한 영상물, 합성·편집물 등 삭제 요청 대상인 불법 영상물은 대부분 해외 서버 기반의 사업자나 부가통신사업자로 등록되지 않은 성인 사이트에서 유포된다. 이런 경우 국내법상 의무 이행에 따른 행정제재가 어렵다.
김미순 한국여성인권진흥원 인권보호본부장은 시사저널에 "디성센터가 수집·관리하는 2만6000건 이상의 사이트 가운데 해외에 서버를 둔 사이트 비율이 95.4%"라며 "전기통신사업법 등 국내법을 적용받거나 센터와 핫라인을 구축한 플랫폼들은 삭제 조치가 원활하게 이뤄지지만, 해외에 서버를 둔 대부분의 불법 사이트는 삭제 요청에 불응한다"고 지적했다. 실제로 지난해 플랫폼별 삭제 지원한 건수를 보면, 성인 사이트가 11만4672건으로 가장 많았고, 검색엔진(7만3245건), 소셜미디어(3만5599건)가 뒤를 이었다.
국내 사이트가 삭제 요청에 불응하는 경우도 있다고 한다. 플랫폼 기업들이 모여 있는 한국인터넷기업협회의 김영규 정책실장은 "명백한 범죄 사실이 확인되기 전 수사 중인 건에 대해 삭제 요청이 들어오면 사업자 입장에선 난감할 때가 있다"며 "수사기관마다 삭제 요청의 기준이 다르고, 추후 범죄행위가 아니라는 결론이 나면 역으로 그 플랫폼 이용자의 권리가 침해당하는 것"이라고 설명했다. 이어 "사업자들도 (불법 영상물) 피해자 보호가 중요한 입장이라 (이런 경우) 삭제나 차단까진 못하더라도 임시 블라인드 조치를 내린다"고 덧붙였다.
최근에는 딥페이크 성범죄의 피의자 80%가 10대라는 사실이 알려지면서 청소년들의 플랫폼 사용 규제 필요성도 커졌다. 유현재 서강대학교 커뮤니케이션학 교수는 "표현의 자유에 막혀 폭탄 돌리기처럼 지금껏 해결하지 못했던 문제지만 피한다고 될 일이 아니다"며 "전 세계적으로 한국의 SNS 이용률이 높은데 정교한 법과 규범이 정립돼야 하지 않겠나"라고 지적했다.
해외에선 이미 미국 캘리포니아주가 SNS의 중독성으로부터 미성년자를 보호하기 위한 법을 제정한 데 이어 호주 정부도 SNS 연령제한 정책을 검토 중이다. 국내에서도 조정훈 국민의힘 의원이 청소년의 SNS 일별 이용 한도 등을 담은 정보보호법 개정안을, 윤건영 더불어민주당 의원은 14세 이상인 청소년부터 SNS에 가입할 수 있는 정보통신망법 개정안을 발의했다.
백기 든 텔레그램·X 등 플랫폼 공룡들
'플랫폼 공룡'에 대한 각국 정부의 제재는 한국보다 훨씬 세다. 8월28일(현지시간) 텔레그램 최고경영자(CEO) 파벨 두로프가 프랑스 경찰에 체포된 데 이어 브라질 연방대법원도 엑스에 칼을 빼들었다. 수년간 '표현의 자유'란 명목하에 범죄의 온상으로 악용된 거대 인터넷 플랫폼에 각국 정부와 기관들이 책임을 묻기 시작한 것이다.
브라질 법원은 가짜뉴스 단속에 나선다며 방송·통신 관련 규제기관에 엑스 접속 차단을 명령했다. 만약 가상사설망(VPN)을 통해 우회 접속하다 적발되면 하루 5만 헤알(약 1200만원)의 벌금을 부과한다고 밝혔다. 이는 브라질 1인당 연간 국민소득과 엇비슷한 수준이다.
알레샨드리 지모라이스 대법관은 명령서에서 엑스 소유주인 테슬라 CEO 일론 머스크를 겨냥해 "브라질 사법 시스템을 반복적이고 고의적으로 무시했다"며 "무법천지 환경을 조성한 책임"을 꼬집었다.
효과는 뚜렷하게 나타나고 있다. 브라질 대법원을 향해 "검열" "민주주의 파괴"라고 분노를 표하며 반발해온 머스크도 결국 두 손을 들었다. 브라질의 엑스 이용자 수가 남미 최대이자 세계 4위(2200만여 명) 규모인 점에서 브라질 법원의 엑스 차단 명령은 치명타인 셈이다. 이에 엑스는 9월20일 브라질 법원의 명령을 준수해 가짜뉴스 유포 계정을 차단하기로 했다. 엑스가 고용한 로펌은 성명을 내고 "지모라이스(대법관)의 명령에 대한 해명과 정보를 법원에 제출했다"고 밝혔다.
수사 당국의 압박에 백기를 든 건 두로프도 마찬가지였다. 두로프는 텔레그램에서 발생한 사기, 아동 포르노 유포, 마약 거래 등 각종 범죄를 사실상 방조·공모하고, 수사 당국의 정보 제공 요구에 불응한 혐의로 예비 기소됐다. 결국 두로프는 9월23일 텔레그램을 통해 불법행위를 저지른 사용자의 IP주소, 전화번호 등 정보를 수사기관에 넘기겠다고 밝혔다. 또 텔레그램 내 각종 불법 콘텐츠에 대한 단속도 강화할 예정이다. 그간 각국 수사기관의 범죄 수사 협조 요청을 거부해온 두로프가 태세를 전환하기 시작한 것이다. 두로프는 보석금 500만 유로(약 74억원)를 내는 조건으로 석방됐지만, 출국은 금지된 상태다.
플랫폼 내 범죄 책임론은 전 세계로 퍼지는 모습이다. 두로프가 프랑스에서 기소된 날 미국 연방항소법원은 틱톡에서 유행한 '기절(블랙아웃) 챌린지'를 따라 하다 사망한 10세 여아의 어머니가 제기한 소송을 재개했다. 해당 소송은 1심에서 인터넷 기업들이 제3자 게시물에 대한 책임에서 면제될 수 있도록 한 통신품위법을 인용해 기각된 바 있다. 그러나 항소법원은 틱톡이 해당 콘텐츠를 적극적으로 홍보하거나 알고리즘을 통해 통신품위법이 보호하는 '수동적인 중개자' 영역을 넘어섰다고 판단했다.
Copyright © 시사저널. 무단전재 및 재배포 금지.