‘이렇게 딥페이크 유통 못막는다’···불법·유해 정보 매년 20만건 미조치

서울여성회와 서울여성회 페미니스트 대학생 연합동아리 회원들이 지난달 29일 서울 서초구 강남역 10번 출구 인근에서 딥페이크 성범죄 규탄 긴급 기자회견을 하고 있다. 권도현 기자

정부가 국내외 온라인 플랫폼 사업자에게 ‘불법·유해정보를 자율 규제하라’는 요청을 해마다 수십만건씩 하고 있지만 매년 10만~20만건이 ‘미조치’ 되고 있는 것으로 나타났다. 최근 딥페이크 성착취물 범죄 확산에 따른 대응으로 정부는 “텔레그램이 불법 정보를 자율 규제할 수 있도록 상시 협의하는 ‘핫라인’을 확보하겠다”고 밝혔지만, 그동안 범죄 피해를 방치하고 책임을 회피해 온 플랫폼 사업자가 얼마나 협조할지는 미지수라는 지적이 나온다.

김남희 더불어민주당 의원실이 1일 여성가족부에서 받은 ‘2021~2024년 6월 국내외 플랫폼 사업자 자율규제 활성화 지원 현황’ 자료를 보면, 2021년 정부가 플랫폼 사업자에게 자율규제를 요청한 불법·유해 정보는 모두 28만2186건이었다. 이 중 52%(14만7382건)만이 규제 조치가 이뤄졌다. 2022년엔 67만4178건 중 67%(45만2296건), 2023년엔 96만2328건 중 79%(76만6470건)에 대해 플랫폼 사업자가 규제 조치를 했다. 매년 약 10만~20만건이 ‘미조치’ 된 것이다.

방송통신심의위원회는 지난달 29일 텔레그램 창업자 겸 최고경영자(CEO)인 파벨 두로프를 수사 중인 프랑스 당국에 딥페이크 성범죄 영상물 대응과 관련한 긴급 공조요청을 보냈다. 방심위는 현재 글로벌 사업자 중 구글·유튜브·페이스북·인스타그램·엑스(옛 트위터)·틱톡 등 11개 사업자에 대해 시정 요청 등을 할 수 있는 ‘핫라인’을 보유하고 있다고 설명했다.

온라인 성착취물 범죄 관련 전문가들은 텔레그램과의 핫라인 구축이 가능할지에 대해 회의적인 반응이다. 조윤희 변호사(법률사무소 이채)는 “텔레그램은 그간 어떤 범죄 수사에도 협조하지 않는 것으로 악명이 높았고, 인스타그램·페이스북도 아동·청소년 성착취물이 아닌 경우 협조하지 않는 경우가 많았다”며 “피해자가 단체대화방에 직접 잠입해 주변 지인인 가해자를 특정해 내기도 했는데, 국내 법을 정비해도 해외사업자에게 책임을 묻는 데 한계가 있을 수 있다”고 했다.

국제사회에서는 디지털 범죄에 대한 플랫폼의 책임이 강화돼야 한다는 요구가 잇따르고 있다. 디지털 성착취물은 한 번 유포되면 확산 속도가 빠르고, 피해를 되돌리기 어렵다는 점에서 플랫폼도 기술적으로 성착취물의 제작·유포 방지를 막기 위한 노력을 다할 책임이 있다는 것이다. 전문가들은 피해를 최소화하기 위해 플랫폼과의 공조로 ‘빠른 삭제·차단’이 이뤄져야 한다고 입을 모았다.

이에 발맞춰 국제엠네스티 한국지부는 구글에 수년째 “비동의 성적 촬영물 게시 중단 요청을 신속히 처리할 방법을 마련하라”고 촉구하고 있다. 2019~2020년 이른바 ‘n번방 사태’ 이후 단체대화방 운영자들은 구속됐지만, 유통됐던 피해물들이 여전히 구글 검색 결과에 표시되고 있다는 문제의식에서다.

장다혜 한국형사정책연구원 연구위원은 “플랫폼에 책임을 묻자는 말이 공허하지 않으려면 정부가 플랫폼 기업에 디지털 범죄를 모니터할 수 있는 툴을 제공하거나, 관계기관 교육을 진행하는 등 노력도 병행해야 한다”고 했다. 그는 ‘심의기관’이라 사후 관리 기능만 있는 방심위와 달리, 호주의 디지털 범죄대응최고기관인 ‘온라인 안전국’(eSafety Commissioner)은 예방부터 규제까지 종합적인 역할을 주도하고 있다고 설명했다. 김남희 의원은 “구속력 없는 자율규제 협조 요청으로는 딥페이크 성착취물 차단에 한계가 뚜렷하다”며 “정부의 텔레그램 자율규제 강화는 구멍난 대책에 불과하다”고 말했다.

‘장소’만 옮겨간 성범죄···“처벌 안된다” “남성문화” 인식부터 바꿔야

전국교직원노동조합 관계자들이 지난달 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. 권도현 기자

불법 영상에 대한 ‘삭제 지원’만큼 ‘재발 방지’가 중요하다는 지적도 나온다. 2015년 소라넷, 2018년 웹하드 카르텔, 2020년 n번방에 이어 올해 텔레그램에서 딥페이크 성범죄가 대규모로 발견된 것처럼 온라인상의 성범죄는 장소와 양태를 달리할 뿐 근절되지 않고 있다.

서혜진 한국여성변호사회 아동청소년특별위원장은 “수사기관이 ‘텔레그램은 수사가 어렵다’는 말로 일관하니, 가해자들이 자신감을 갖게 된 측면도 있다”라며 “수사기관이 플랫폼을 면피의 수단으로 삼아서는 안 될 것”이라고 했다.

장 연구위원은 “이 범죄는 아주 새로운 유형의 범죄가 결코 아니다”라고 했다. ‘단톡방 성희롱’처럼 여성을 성적 대상화하고, 이를 남성들끼리 할 수 있는 유희나 일종의 놀이 문화로 간주하는 데서 벌어진 범죄라는 취지다. 장 연구위원은 “딥페이크 성착취물 유포자들은 ‘단톡방 성희롱’ 가담자들과 비슷한 양상을 띤다”며 “성적 대상화로 특정인의 인격을 말살하는 행위에서 소속감을 느끼는 것을 ‘남성 문화’로 가벼이 여겨선 안 될 것”이라고 했다.

전지현 기자 jhyun@kyunghyang.com