같은 학교 여학생 7명이 옷벗고 이상한 행동을…알고 보니 ‘딥페이크’ 충격

인공지능(AI)을 활용한 딥페이크 성범죄가 청소년 사이에서 횡행 중이다. 엄연한 범죄 행각인데도 친구나 교사의 얼굴을 도용해 가짜 이미지·오디오·비디오를 제작해 유포하는 사례가 잇달아 심각한 사회문제로 대두되고 있다.

7일 한국지식재산연구원에 따르면 딥페이크 범죄는 생성형 AI의 대표적인 부작용으로 꼽힌다. 데이터 수집과 비교 학습을 통해 새로운 창작물을 탄생시키는 수준으로 발전하고 꾸준히 사용자 수를 늘리고 있지만 악용 사례를 막을 장치가 마땅하지 않다.

실제로 최근 부산 강서구 소재 한 고등학교 재학생 A군은 동급생 얼굴이 등장하는 음란물을 만들어 판매한 혐의로 조사를 받고 있다. 이 학교에서는 지난 5월에도 B군이 여학생 7명 얼굴을 딥페이크 기술로 합성한 사진을 메신저 텔레그램에 올린 정황이 파악되기도 했다.

부산 사하구 소재 한 중학교에서는 교사가 범죄 대상이 됐다. 이 교사는 모델의 나체에 자신의 얼굴이 합성된 사진이 텔레그램을 통해 유포된 사실을 알게 됐다. 하지만 가해자를 잡을 수 없어 지역교권보호위원회에서 가해자 없는 교권 침해 판정을 받는데 그쳐야 했다.

전북 전주시 소재 한 중학교에서도 중학생 C군이 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 소년부에 넘겨졌다. C군은 “장난이었다”라고 진술한 것으로 알려졌다. 경찰은 불법 음란 합성물 확산을 막기 위해 방송통신심의위원회에 게시물 삭제 및 차단을 요청한 상태다.

이처럼 청소년 사이에서 딥페이크 성범죄가 번지고 있다. 경찰청의 불법 허위 영상물 집중 단속 결과를 보면 피의자 94명 중 19세 이하가 65명(69.1%)으로 가장 많았다. 청소년들이 스마트 기기 사용에 익숙한데다가 기술까지 발달하면서 딥페이크 사진·영상 제작이 쉬워졌기 때문이다. 해외에 서버를 둔 딥페이크 성범죄물 제작 사이트와 애플리케이션도 지속적으로 등장하고 있다.

방송통신심의위원회에 따르면 딥페이크를 비롯한 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 7187건으로 급증했다. 피해자가 인지하기 어려운 만큼 실제 피해 규모는 더 클 것으로 추정된다. 피해자는 대부분이 여성이다.

이에 주요국들은 AI 규제 법령을 속속 시행하고 있다. 유럽의회는 지난 3월 AI 기술 혁신을 촉진하면서도 안전과 기본권 준수를 보장하는 기본법을 최종 승인했다. 미국은 지난해 10월 조 바이든 대통령이 ‘안전성·보안성·신뢰성을 갖는 AI의 개발과 활용에 관한 행정명령’에 서명했다. 일본은 지난해 주요 7개국(G7) 정상회의에서 생성형 AI 규제의 필요성을 논의했고, 중국도 생성형 AI 서비스에 관한 법률을 제정하는 중이다.

전문가들은 실효성 있는 딥페이크 성범죄 근절 대책이 우리나라에서 나오지 않고 있다고 지적했다. 다만 포괄적 규제는 산업 발전을 저해할 우려가 있기 때문에 단계적 규제가 구체적으로 마련돼야 한다고 제언했다. 또 딥페이크임을 자동으로 인지해 관련 콘텐츠 공유를 원천 차단하는 기술이 부족하다며 시스템 개발의 필요성을 강조하기도 했다.

복수의 법조계 관계자는 “딥페이크물 제작 및 유포가 장난이 아닌 범행이라는 인식이 청소년들에게 명확히 박혀 있어야 한다”라며 “피해자들을 보호하고 가해자들을 처벌할 수 있는 체계가 필요하다”고 말했다.