10대가 반 친구, 교사까지 능욕…일선 학교들 ‘딥페이크 패닉’

국민일보 DB

최근 SNS에서 인공지능(AI) 등을 활용한 불법 합성물인 ‘딥페이크’ 성범죄 피해가 발생한 것으로 추정되는 학교 명단이 공유되면서 파장이 커지고 있다. 여성의 얼굴과 나체 사진을 합성해 유포한 성범죄가 중·고등학교에서도 일어난 것으로 보인다. 온라인상에서는 “내 사진도 악용됐을지 모른다”는 공포감이 확산하고 있다.

26일 SNS에 공유된 ‘텔레그램 딥페이크 피해자 학교 명단’에는 150여개 중·고등학교와 40여개 대학명이 지역별로 나뉘어 게시됐다. 이 명단이 공유되기 시작한 건 일부 대학에서 텔레그램 메신저 단체 대화방이 알려진 이후부터다.

이들은 대화방에서 특정 여성의 이름을 언급하고 서로 동시에 아는 지인이 있으면 SNS에 올라온 사진을 악용해 불법 합성물을 생산·유통했다. 주로 소속 학교나 지역을 중심으로 딥페이크 성범죄 영상과 이미지가 공유됐다. 교사나 여군 등 특정 직군 여성들도 피해를 본 것으로 알려졌다.

텔레그램에는 ‘겹(서로 아는) 지인’ 등의 키워드로 만든 대화방이 일부 남아있었다. 주로 지역명, 대학 이름을 내걸고 만들어진 대화방이다. 미성년자를 대상으로 한 대화방도 한 곳 있었다. 여기에선 여성들의 불법 합성물과 음란물 사진 제작을 돕는 AI 챗봇 주소가 공유되고 있었다.

일부 학교에서는 피해 예방법을 안내했다. 서울의 한 고등학교 학생 자치회는 SNS 공지사항을 통해 “현재 텔레그램을 통해 학생들의 신상과 딥페이크 합성사진이 유포되고 있으니 각별한 주의를 부탁한다”고 고지했다. 학생들 사이에선 “SNS에 얼굴이 나온 사진을 내려야 한다” “네 컷 스티커 사진을 찍고 매장에 붙여놓지 말라”는 등의 게시물이 공유됐다.

서울 한 고등학교 교사는 “학생들 사이에서 피해를 입었다는 얘기가 나오고 있다”며 “학교 차원에서도 피해자가 있는지 조사할 계획을 세우고 있다”고 말했다.

이날 서울경찰청은 지난 1월~7월 딥페이크 성범죄를 저지른 혐의를 받는 10대 10명을 입건했다고 밝혔다. 김봉식 서울경찰청장은 기자간담회에서 “학생, 교사 등 전방위적으로 불법 영상물들이 제작돼 확산하는 상황”이라며 “IT 기기에 익숙한 청소년을 중심으로 확산돼 우려스럽다. 엄벌과 함께 예방 교육을 실시할 방침”이라고 말했다.

다만 텔레그램은 외국에 서버를 두고 있어 향후 경찰 수사는 난항을 겪을 것으로 보인다. 국내 수사기관의 압수수색 영장의 강제력이 적용되지 않고, 게시물 삭제를 요청할 권한도 없기 때문이다. 방송통신심의위원회에 따르면 성적 허위 영상물의 시정요구 건수는 지난해 7187건에서 올해 6400건(지난달 말 기준)을 넘어섰다. 방심위 관계자는 “사업자들에게 자율적으로 음란물을 규제해 달라고 요청하는 것 외에 할 수 있는 게 없는 상황”이라며 “이번 사건으로 불법 합성물이 재유통되지 않도록 구글, 메타 등 80여개 사업자에 자율 규제를 요청했다”고 말했다.

윤예솔 한웅희 기자 pinetree23@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지