[S리포트] 650원에 옷 벗겨 드려요… '딥페이크 성범죄' 기승

[AI가 낳은 괴물 '딥페이크']② 딥페이크 성범죄 피해 접수 시작 이틀 만에 1400여건

[편집자주] 인공지능(AI) 기술이 발전할수록 우리의 삶은 윤택해지고 편리해질 것으로만 생각했다. 관련 기술 활용이 늘고 사회 곳곳에서 부작용이 나타나면서 기대는 우려가 됐다. AI로 사람의 얼굴 등을 합성에 가짜를 만드는 '딥페이크'가 대표적이다. 신기하고 재미있어서 하나둘씩 만든 자극적인 영상과 이미지로 고통받는 이들은 이를 범죄로 규정하고 처벌을 촉구한다. 생활 속에 파고든 '딥페이크 성범죄'는 더 이상 두고 보기 어려운 상황으로 치달았다. 더 많은 피해자가 양산되지 않도록 인식 개선과 관련 제도 마련이 시급하다.

대학가를 넘어 중·고등학생, 여군을 대상으로 한 '딥페이크 성범죄'가 광범위하게 일어났다. /사진=이미지투데이

누구나 '딥페이크'(인공지능 기반 이미지 합성) 성범죄의 피해자가 될 수 있다는 공포가 커지고 있다. 생성형 인공지능(AI)으로 각각 다른 사람의 얼굴과 신체를 합성해 불법 합성물을 만든 '딥페이크' 성범죄가 기승을 부리고 있다. 단돈 650원이면 불법 합성물을 손쉽게 제작할 수 있어 온라인상에서 집단 성범죄가 만연하고 있다는 우려가 나온다.

최근 텔레그램에서 불법 합성물을 제작·유포하는 것으로 의심되는 단체 대화방이 다수 파악됐다. 이들은 주로 SNS(사회관계망서비스)에 올라온 여성의 얼굴 사진을 무단으로 저장하고 이를 나체 사진과 합성해 만든 불법 합성물을 제작·유포했다.

지난 5월 '서울대 N번방' 사건에 이어 인하대 여학생 얼굴을 나체 사진과 합성해 단체 대화방에 공유한 혐의를 받는 텔레그램 이용자들이 잇따라 경찰에 입건됐다. 이후 이밖에 전국의 각 지역·학교별로 세분된 텔레그램 대화방이 다수 존재했다는 사실이 드러난 것이다. 텔레그램에선 'ㅇㅇ고 능욕방'·'ㅇㅇ대 겹지인방' 등 지역과 학교 이름을 내세운 단체 대화방을 쉽게 찾아볼 수 있었다.

문제는 대학가를 넘어 중·고등학교에 다니는 미성년자들도 딥페이크 성범죄로부터 안전하지 못했다는 사실이다. 교육부는 지난 28일 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 학생·교원 딥페이크 피해 건수가 총 196건으로 집계됐다고 밝혔다. 교육 당국은 이 가운데 179건에 대해 수사를 의뢰했다.

여성가족부 산하 한국여성인권진흥원이 발표한 자료에 따르면 피해 규모는 훨씬 커진다. 올해 들어 지난 25일까지 디지털 성범죄피해자 지원센터에 딥페이크 피해 지원을 요청한 사람은 781명으로 이 가운데 36.9%(288명)가 10대 이하로 집계됐다.

전국교직원노동조합(전교조)도 텔레그램을 이용한 딥페이크 성범죄 피해 신고가 피해 접수 시작 이틀 만에 1400여건 접수됐다고 밝혔다. 그동안 미성년자 대상 딥페이크 성범죄가 광범위하게 일어나고 있었음을 보여준다.

여군을 상대로 한 딥페이크 대화방도 공개돼 논란에 불을 지폈다. 900여명의 대화방 참가자들은 딥페이크로 합성한 여군을 '군수품'이라 칭하며 능욕한 것으로 밝혀졌다.

우려스러운 점은 참여 인원만 27만여명에 이르는 불법 합성물 제작 채널까지 텔레그램에서 성행하고 있다는 점이다. 간단한 검색으로 채널에 접근이 가능한데다 사진 한장당 650원가량만 지불하면 수초 만에 불법 합성물을 제작할 수 있어 집단 성범죄와 유포로 인한 무차별적인 피해로 이어질 수 있다. 특정 가상화폐(크립토)를 통해서만 지불할 수 있어 이용자의 익명성 보장도 철저했다.

전문가들은 '수익 구조'를 갖춰 불법 합성물 제작을 유료화한 형태는 범죄란 인식 없이 불법 합성물 제작을 가볍게 여기는 사회 인식을 방증한다고 지적했다. 수익 구조화돼 있다는 것은 그만큼 수요가 뒷받침하는 것이란 설명이다.

고인선 AI·디지털 전문 변호사는 "포르노 배우가 아닌 일반인을 대상으로 음란물을 만들어 모욕감을 주는 행태가 수익 구조화된 것은 심각한 문제"라며 "수요가 뒷받침되니 수익 구조화 된 것인데 딥페이크 성범죄의 경우 구성요건 해당성이 없으면 수요자는 처벌받지 않아 더욱 빠르게 확산한 것"이라고 설명했다.

채우리 여성 전문 변호사는 "딥페이크 성범죄물이 온라인 플랫폼을 통해 조직적으로 제작되고 수익사업으로 까지 확장되는 방식으로 운영되고 있다"며 "처벌에 있어서는 이와 관련한 법조항 적용을 적극 검토해야 하고 관련 플랫폼 사업자들에게도 무거운 법적책임과 수사협조의무를 지울 수 있는 법적 근거를 마련해야 한다"고 했다. "딥페이크 성범죄의 본질은 '페이크'에 있는 것이 아니라 '피해자의 인격을 살인하는 성폭력'에 있다는 점을 인식하기 위해 디지털 성범죄에 관한 성인식을 정비할 필요가 있다"고 덧붙였다.

김성아 기자 tjddk99@mt.co.kr