n번방 추적자 “딥페이크 불법업체, 돈 없는 중고생을 홍보책으로 써”

청소년들, 크레딧 받으려 공유·유포

22만여명이 참여한 딥페이크 성착취 텔레그램방. 인공지능(AI)이 만든 여성 사진을 넣으니 5~7초 만에 딥페이크 성착취물이 제작됐다. 텔레그램방 갈무리

2019년 텔레그램 엔(n)번방 사건을 세상에 처음 알린 ‘추적단 불꽃’의 원은지 활동가가 “딥페이크(불법합성물)가 시장이 되면서 여러 불법 업체가 (텔레그램) 대화방들을 운영하고 있고 중고생들을 홍보책으로 쓰고 있다”고 28일 말했다.

원씨는 이날 오전 시비에스(CBS) 라디오 ‘김현정의 뉴스쇼’에 나와 이같이 밝혔다. 신원을 보호하기 위해 원씨의 얼굴은 공개되지 않았다.

원씨는 텔레그램에 기반한 불법합성물 성범죄에 대한 사회적 불안을 엔번방 사건과 비교해 설명했다. 원씨는 “엔번방 사건은 물리적인 폭력, 가해자와의 직·간접적인 접촉이 있었기 때문에 본인이 피해자라는 사실을 인지할 수 있었다”며 “그런데 딥페이크 성착취 사건들은 내가 언제, 어떻게 피해자가 될지 모르는 정말 두려운 상황”이라고 말했다.

이어 원씨는 “특히 문제는 10대 학생들이 개인적으로 운영하는 방만 있는 것이 아니라 이 행위(딥페이크) 자체가 시장이 되어서 여러 불법 업체가 대화방들을 운영하고 있다는 것”이라고 지적했다.

그러면서 원씨는 “업체들은 돈이 넉넉지 않은 10대들을 전형적인 홍보책으로 쓰고 있다”며 “딥페이크가 돈이 되는 이상 전국의 중고생들을 홍보책으로 쓰려는 업체들이 더 많아졌을 것”이라고 봤다. 업체가 운영하는 대화방에 다른 사람을 초대하고 인증을 하면 일정량의 크레딧을 받을 수 있고 이 크레딧으로 딥페이크를 이용할 수 있다 보니 청소년들이 이것을 받기 위해 대화방을 온라인에 홍보하거나 동시에 불법합성물을 불특정 다수가 있는 대화방에 공유·유포한다는 설명이다. 원씨는 비용은 업체마다 다르지만, 한 업체의 경우 상반신 사진 합성에 약 2650원, 동영상 합성에는 약 1만3260원을 받고 있다고 말했다.

실제로 한겨레가 지난 21일 접근한 한 텔레그램방은 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재하고 있었는데 두번째 사진까지는 무료로 불법합성물을 제작하다가 이후 유료로 전환되는 수익 구조를 지니고 있었다. 돈을 내는 대신 친구를 초대하면 제작을 이어갈 수 있다. 이 텔레그램방의 참여 인원은 22만여명에 이른다.

원씨는 “딥페이크 성범죄 피해자가 몇 명인지 파악도 안 되고 대부분 자기가 피해당하는 걸 인지도 못한다는 점이 가장 무서운 점”이라고 우려했다. 그러면서 “딥페이크 관련 혐의로 잡힌 사람들 가운데 여죄를 조사하면 아동청소년 성착취물까지도 소지·유포한 이력이 있는 가해자들이 꽤 있다”며 “딥페이크를 하는 놈들이라면 성착취도 분명히 관여하고 있다고 볼 수 있다”고 말했다.

마지막으로 원씨는 불법합성물 피해자임을 알았을 때는 바로 (수사당국에) 신고하라고 조언했다. 다만, 신고하기 전에 실시간으로 협박을 받고 있다면 관련 내용들을 모두 갈무리해 증거 자료로 남기는 것이 좋다고 덧붙였다.

이유진 기자 yjlee@hani.co.kr

▶ 한겨레는 디지털 성범죄 방지를 위해 끈질기게 취재합니다.
[추적보도 https://campaign.hani.co.kr/deepfake]