‘900원이면 AI 합성 가능’…중국도 딥페이크 성범죄 심각

중국 동영상 플랫폼 비리비리에 올라온 'AI 옷벗기기' 강습. 베이커재경

중국에서도 딥페이크 기반 성범죄가 기승을 부리고 있다. 딥페이크 사진·영상 제작, 회원 유치나 판매, 제작법 교육 등 일종의 ‘산업체인’이 형성돼 있을 정도다.

28일 중국 관영 신경보 산하 경제매체 베이커재경에 따르면 중국의 지하 플랫폼에선 여성 인플루언서나 연예인을 대상으로 하는 인공지능(AI) 합성 나체사진 채팅방이 다수 운영되고 있다. 제작자들은 5위안(약 930원)이면 ‘옷 벗기기’가 가능하고, 20위안(3750원)이면 ‘동영상 얼굴 합성’이 가능하다고 홍보한다.

매체는 합성 사진·영상 제작이 일종의 산업체인을 형성한 상태라고 전했다. 합성물 제작을 의뢰받아 제작하는 이들과 온라인에서 회원 가입을 유도한 뒤 수익을 내는 이들, 비리비리(중국 동영상 플랫폼)나 샤오훙수(틱톡) 등 소셜미디어에 ‘AI 옷 벗기기 강습’ 등을 올리고 실제 교육하는 이들이 하나의 생태계를 이뤘다.

매체가 인플루언서의 나체 합성물을 공유한다는 한 채팅방을 확인한 결과 회원이 1만5000명이었고 연예인과 운동선수의 사진도 다수 올라와 있었다. 채팅방 운영자들은 눈길을 끄는 사진으로 회원 가입을 유도하는데 회비는 70위안(1만3000원)이었다.

피해 사례는 늘고 있다. 매체와 인터뷰한 누리꾼 K씨는 최근 자신의 사진을 봤다는 낯선 사람으로부터 비공개 채팅을 통해 사적인 만남을 제안받았다. 국내외 인터넷을 검색한 결과 AI로 자신의 얼굴과 합성한 음란물이 해외 소셜 플랫폼과 음란물 웹사이트에 올라온 것을 찾아내고는 두려움에 떨고 있다.

지난해 3월 샤오홍슈의 한 이용자는 지하철에서 찍은 사진이 AI에 의해 나체사진과 합성된 뒤 소셜미디어에 유포되는 피해를 봤다. 이 이용자의 댓글란에는 많은 여성이 비슷한 일을 당했다고 호소했다.

베이징시 경찰은 지난 6월 ‘주변인, 인플루언서, 스타 모두 가능’ 등으로 광고하며 1장에 1.5위안(280원)을 받고 합성사진 약 7000장을 351명에게 판매한 전직 인터넷업체 기술자를 적발했다.

중국 현행법상 AI로 합성한 나체사진이나 음란영상을 판매하는 것은 치안관리처벌법 위반이다. 제작하는 것 자체도 개인정보 침해에 해당하며 판매하지 않고 유포만 해도 음란물유포죄가 적용된다. 이런 합성 기술을 가르치면 방조범이나 교사범으로 처벌받을 수 있다.

페이즈융 중국 치안신그룹 산업안전연구센터 주임은 “일반인도 쉽게 AI 합성·위조 기술을 이용할 수 있게 됐다”면서 “하지만 AI를 이용해 가짜 동영상이나 사진을 만드는 것을 막는 것은 비현실적”이라고 말했다. 이어 “플랫폼 차원에서 음란물 확산을 충분히 막고 단속할 수 있다”면서 “원본 여부를 확인하거나 위조를 방지하는 기술도 적극 활용할 필요가 있다”고 제안했다.

베이징=송세영 특파원 sysohng@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지