Still laid-back about deepfake crimes (KOR)

Measures should be taken to save kids from the deepening risks before it’s too late.

Digital sex crimes are on an upsurge, riding on easier crafting through deepfake and AI-based technologies. In the latest case, a teenager was arrested for selling sexually exploitative materials to his peers and a teacher. Reports of fake and fabricated videos filed with the Ministry of Gender Equality and Family surged to 423 last year from 144 in 2019 — and amounted to 726 as of June this year.

Humiliation for the victims, mostly women, is not restricted to the domestic turf. According to a study on the state of deepfake crimes by U.S.-based Security Hero, online deepfake videos topped 95,820 in 2023, of which 53 percent were targeted on Korean women. The rapid spread of the deepfake virus in Korea has become international news. Where is the government and politicians who should be protecting their citizens?

Lawmakers of the National Assembly’s Gender Equality and Family Committee lambasted the government office whose minister has been vacant for six months. But lawmakers must share the blame. They only rush to revise laws when serious crimes arise. As many as 33 bills related to sex crimes have been submitted, but most of them were recycled from the shelved bills that went down the drain after the last term of the National Assembly ended.

Since regulations can’t keep up with the evolution in crimes, victims must take matters into their own hands. After frustratingly waiting for the removal of their fake videos, they must hire private agents to erase them. What is urgent is to revise related laws to enable the immediate removal and blockage of sexually exploitative materials and closure of distributing platforms. According to the ministry, over 260,000 out of 940,000 unwanted videos reported since 2020 have yet to be removed.

Punishments also need to be toughened. Of 84 indicted for producing and distributing deepfake sexual content over the last four years, 34 walked free with a suspension on their sentence. Korea should benchmark Britain which has revised the Online Safety Act to make anyone creating a sexually explicit deepfake, even without having the intention of sharing it, subject to punishment. Regulations must be toughened on Telegram which has become a hotbed of distributing illicit images and videos. We should study France’s grounds for arresting the founder and CEO of Telegram for illicit activities. In Korea, users of the discreet chat app have surged, calling for effective actions.

The perpetrators and victims of deepfake crimes are mostly teenagers, which demands more urgent attention to preventive actions than punishments. More than half of the victims also were in their teens. Measures should be taken to save kids from the deepening risks before it’s too late.

딥페이크 고통 지옥인데 정책 노력은 한가하기만

피해 급증 방치하더니 장관 공석에 법안은 재탕세계 성착취물 피해자 53%가 한국, 대책 시급해

연일 새로운 딥페이크 범죄가 터진다. 어제도 학생 10명과 교사 1명의 성착취물을 만들어 팔아온 고교생이 경찰에 붙잡혔다. 여성가족부 디지털 성범죄 피해자 지원센터에 접수된 허위 영상물 피해는 2019년 144건에서 지난해 423건으로 증가했고 올 상반기에만 726건이 접수됐다.

더욱 끔찍한 건 한국 여성의 피해가 해외로 확산한다는 사실이다. 미국의 사이버보안업체 시큐리티히어로는 지난해 7~8월 전 세계에 유포된 딥페이크 성 착취물 9만여 건을 분석한 결과 피해자의 53%가 한국인으로 나타났다고 밝혔다. 해외 언론도 한국의 딥페이크 피해 실태를 잇달아 보도하고 있다. 사태가 이 지경에 이르도록 우리 정부와 국회는 뭘 하고 있었는가.

지난 4일 국회 여성가족위원회 소속 여야 의원들은 장관이 6개월째 공석인 여성가족부를 질타했다. 국회도 남 탓할 처지가 못 된다. 사건이 터지고 나서야 의원들은 법률 개정안을 쏟아냈다. 성폭력범죄의 처벌 등에 관한 특례법 22건을 포함해 무려 33건을 발의했다. 급조하다 보니 내용이 비슷하고 21대 국회 때 발의했다가 폐기된 법안과 대동소이하다.

법이 범죄를 못 따라가자 피해자가 자신을 구제해야 하는 처지가 돼버렸다. 정부에 신고해도 피해 영상물 삭제가 신속히 이루어지지 않는 바람에 피해자가 수백만 원씩 내며 사설 업체를 통해 지워나가는 실정이다. 관계 기관이 성착취물을 즉시 삭제하고 가해 사이트를 차단할 수 있도록 하는 법 개정이 시급하다. 여가부가 더불어민주당 김남희 의원에게 제출한 자료에 따르면 2020년 이후 접수된 불법 촬영물 삭제 요청 94만 건 가운데 26만 건 넘게 아직 삭제되지 않고 있다니 피해자의 고통이 어떻겠는가.

처벌 강화도 필수다. 지난 4년간 딥페이크 성착취물 제작과 유포로 기소된 87명 중 34명(39%)이 집행유예를 받았다고 한다. 성착취물을 제작, 소지만 해도 처벌하도록 법을 바꾼 영국을 참고할 만하다. 범죄 영상물의 온상이 되는 텔레그램에 대한 대책도 필요하다. 해외에 서버가 있어 수사의 어려움이 있겠으나 창업자 파벨 두로프를 체포한 프랑스의 사례를 분석하면 대안이 나올 수 있다. 최근 국내의 텔레그램 사용자가 오히려 급증했다니 실효성 있는 대책이 절실하다.

딥페이크 범죄는 가해자와 피해자 대부분이 10대다. 그래서 처벌보다 예방이 절실하다. 경찰이 올해 들어 지난 7월까지 검거한 딥페이크 범죄자 178명 중 10대 청소년이 73.6%였다. 피해자 역시 절반 이상이 10대다. 어린 시절 잘못된 판단으로 평생 나락에 빠지는 비극을 막기 위해서라도 대책 마련이 시급하다. 정부와 국회가 시간을 허송하는 동안 성착취물은 기하급수적으로 유포된다는 사실을 명심해야 한다.