No more torture by hope, please (KOR)

But most of the measures discussed so far are mere reiterations of old responses to pornographic materials or “wishful thinking,” such as installing a hotline with Telegram.

CHUN IN-SUNGThe author is the international news editor of the JoongAng Ilbo. Rep. Alexandria Ocasio-Cortez was also a victim. She proposed the Defiance Act, which passed the U.S. Senate about a month ago. Referred to as AOC, she is a star politician who became the youngest woman to be elected to the Congress at age 28 in 2018. She spoke on the first day of the Democratic National Convention in Chicago, and “the atmosphere among the crowd was notably more energized for the charismatic Ocasio-Cortez than for any speaker who preceded her — barring Harris herself,” according to The Hill.

In an interview with Rolling Stone in April, AOC talked about how she felt when she accidentally found images of herself depicted sexually on social media. She discussed the shock, fear and trauma when she felt others would think it was real images of her. She called the victims of deepfake as “sexual violence survivors,” and warned that deepfake “parallels the same exact intention of physical rape and sexual assault” and drives victims to extreme choices.

The bipartisan bill proposed by AOC and ten other members of the House and Senate passed the Senate unanimously. While it needs to pass the House and be signed by the president, the bill is cruising unlike similar bills that were frustrated or delayed due to lobbying by the platform industry or the “freedom of speech” controversy.

The bill is distinguished as it focuses on recovery and the rights of victims that AOC calls “sexual violence survivors” by increasing the legal responsibility of perpetrators. The bill guarantees the rights of deepfake victims to seek compensation to not only those who created and distributed content but also those who possess it. The existing legislation that had been limited to regulating platforms and criminal punishment of the perpetrator expanded to include recovery for victims. Communication and collaboration with more than 30 organizations supporting online and offline sexual violence victims across America played a major role.

In Korea, the government and politicians pay belated attention as deepfake sexual exploitation cases have emerged since mid-August. The president’s “rage” made government agencies raise punishment standards and present measures for reporting and investigation, video deletion and prevention education. The governing and opposition parties have agreed to discuss strengthening regulations and raising statutory punishment. But most of the measures discussed so far are mere reiterations of old responses to pornographic materials or “wishful thinking,” such as installing a hotline with Telegram. Can such bureaucratic solutions resolve the unprecedented crisis of sexual exploitation using AI? If there is no clear plan, how about communicating and empathizing with victims and seeking new solutions as AOC and lawmakers did in the United States?

딥페이크 규제, 피해자의 눈으로 천인성 국제부장

그 역시 피해자였다. 한달여 전 미국 상원을 통과한 딥페이크 성착취물 관련 법안(Defiance Act)을 발의한 알렉산드리아 오카시오-코르테즈 의원 이야기다. 이니셜이자 별칭인 ‘AOC’로 불리는 그는 2018년 28세의 나이로 미국 역대 최연소 여성 하원의원으로 당선된 스타 정치인이다. 지난달 시카고에서 열린 민주당 전당대회 첫날 연단에 등장해 '이날 연사 중 카멀라 해리스 부통령을 빼면 가장 뜨거운 환호를 받은'(더힐) 인물이다.

법안을 발의한 뒤 지난 4월 실린 잡지 롤링스톤과의 인터뷰를 통해 AOC는 우연히 SNS를 보다가 자신의 성행위 이미지를 발견했을 때의 심정을 밝혔다. “누군가 진짜라고 생각할 내 모습을 볼 때” 느낀 충격과 공포, 이후 반복 재생된 트라우마 증상을 털어놨다. 딥페이크 음란물의 피해자를 ‘성폭력 생존자’라고 부르면서 “신체적 강간과 다를 바 없고”, “피해자를 극단적 선택으로 몰고 간다”고 경고했다.

AOC가 상하원 의원 10여명과 함께 발의한 법안은 초당적인 지지를 얻어 만장일치로 상원의 문턱을 넘었다. 아직 하원 통과와 대통령 서명 등의 절차가 남았지만, 플랫폼 업계의 로비 혹은 ‘표현의 자유’ 논란에 좌초되거나 지연되던 유사 법안과 달리 순항 중이다. 이 법안이 남다른 이유는 가해자의 법적 책임을 높여 AOC가 ‘성폭력 생존자’라고 부른 피해자의 회복과 권리에 주목한다는 점 때문이다. 법안은 딥페이크 표적이 된 사람이 이를 제작·배포한 사람은 물론 소지한 사람에게 손해배상을 청구할 권리를 보장한다. 플랫폼 규제, 가해자의 형사 처벌에만 머물던 기존 입법 논의를 피해자 회복 차원으로 확장했다. 여기엔 미국 곳곳에서 온·오프라인 성폭력 피해자를 지원해온 30여개 단체와의 충분한 소통과 협업이 큰 역할을 했다.

지난달 중순 이후 국내 딥페이크 성착취물의 실태와 피해 사례가 연일 부각되자 정부와 정치권이 뒤늦게 부산하다. 대통령의 ‘불호령’에 따라 부처마다 처벌 기준을 높이고 신고·수사, 영상 삭제, 예방교육 강화를 위한 방안을 내놓고 있다. 여야도 9월 정기국회에서 규제 강화, 법정형 상향 등을 논의하기로 합의했다. 그렇지만 지금껏 나온 대책의 대부분은 과거 음란물 대책의 재탕 또는 텔레그램과의 핫라인 설치 같은 ‘희망 사항’의 나열에 그친다. AI를 활용한 성착취물 범람이란 미증유의 사태를 이런 탁상공론으로 해결할 수 있을까. 뾰족한 대책이 없다면 차라리 피해자들을 찾아가 공감과 소통을 통해 새로운 방법을 찾아보면 게 어떨까. AOC와 동료의원들처럼 말이다.