[시론] 아동 안전 위협하는 ‘세상에서 가장 위험한 방’

황영기 초록우산 회장

“같은 반 아이들 아무도 못 믿겠어요.” “이젠 학교도 사람도 너무 무서워요.” “합성물도 제 상처도 완전히 지울 수 있을까요.” 최근 사회적으로 큰 충격을 준 ‘딥페이크(Deep fake)’ 성범죄에 노출된 피해 아동들이 트라우마를 호소하는 생생한 목소리다.

딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어다. 딥러닝 기술을 사용한 인간 이미지 합성 기술이 성범죄에 널리 이용되고 있어서 큰 사회문제가 되고 있다. 인공지능(AI)을 악용한 딥페이크 범죄는 특히 10대 이하 아동·청소년들이 가해자 또는 피해자로 광범위하게 연루돼 있다는 점에서 충격적이다.

■

「 인공지능 이용한 딥페이크 범죄
미국·유럽은 적극적 대책 마련
법 정비, 유해 콘텐트 관리해야
」

8월 30일 대구 수성구 시지중학교에서 학교전담경찰관(SPO)이 학생들을 대상으로 딥페이크 성착취물 범죄 예방 교육을 하고 있다. 연합뉴스

경찰청이 국회에 제출한 자료에 따르면 2021~2023년 딥페이크 피해자 527명 중 아동·청소년은 59.8%였다. 2021년 53명, 2022년 81명, 2023년 181명으로 매년 빠르게 피해자가 늘어나고 있다. 올해 들어 1~7월 딥페이크 범죄 가해자를 보면 10대 비율이 무려 73.6%나 됐다.

온라인은 딥페이크뿐만 아니라 불법 사이버도박, 마약 유통, 성적 착취 등 아이들을 위협하는 무수한 범죄의 온상이 됐다. 당장 언론만 봐도 n번방·박사방, 인터넷 커뮤니티 또는 각종 채팅방을 통한 아동 성범죄 등 수많은 피해 사례들로 매일 도배되고 있다.

허위·불법 사진 및 영상물 재유포, 신상털기, 조롱 등 이미 씻어 내기 힘든 상처를 입은 아이들에 대한 2차 피해까지 일상적으로 벌어진다. 오죽하면 외신에서 대한민국을 ‘딥페이크 범죄의 세계적 진앙’으로 지적했겠는가. 온라인 기술의 발달이 일상의 편익뿐 아니라 아동 대상 범죄의 진화도 부른 셈이다.

이는 비단 한국만의 문제는 아니다. 온라인 범죄 등으로부터 아동을 보호하는 문제, 즉 ‘온라인 안전’은 세계적 관심사다. 호주와 영국은 이미 ‘온라인 안전법’을 제정해 온라인 아동보호를 위한 제도적 장치를 도입했다. 지난해 유럽연합(EU)은 ‘디지털 서비스법’을 시행했다. 비교적 최근에는 표현의 자유로 유명한 미국에서조차 ‘아동 온라인 안전법(KOSA)’이 상원을 통과해 온라인 유해 콘텐트로부터 아동보호에 관한 기업 의무와 책임을 규정하기 시작했다.

9월 26일 오후 서울 여의도 국회에서 열린 본회의에서 딥페이크 성 착취물을 소지·시청하면 3년 이하 징역 또는 3천만원 이하 벌금에 처하는 내용을 담은 '성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안(대안)에 대한 수정안'(딥페이크 성범죄 방지법)이 재적 300인 중 재석 249인, 찬성 241인, 반대 0인, 기권 8인으로 통과되고 있다. 뉴스1

지난달 26일 우리나라에서도 이른바 ‘딥페이크 성범죄방지법’이란 이름으로 관련 법 개정이 이뤄졌다. 딥페이크 등 디지털 성범죄 처벌과 피해자 보호를 강화하는 내용이다. 만시지탄이지만, 지금이라도 제도 개선이 이뤄져 다행스럽다. 하지만, 아이들이 안심하고 온라인에서 생활할 수 있는 구조적 환경이 만들어졌다고 말하기에는 한참 부족하다. 아동복지전문기관의 수장으로서 막중한 책임감을 느낀다.

지금 한국에는 아이들을 위한 근본적인 안전망이 필요하다. 온라인과 오프라인의 흐릿한 경계에서 아이들이 범죄에 노출되지 않도록 다양한 제도적 장치들을 마련해 사각지대 없이 보호해야 한다. 먼저 정보통신망 관련 법에서 아동·청소년 이용자를 보호하기 위한 구체적이며 세부적인 조항을 마련하고, 콘텐트 제작·유통에 관련된 기업의 아동보호 책임과 의무를 강화해야 한다. 기업 스스로도 우리 사회가 요구하는 아동보호 책임을 이해하고 적극적 조치에 나서야 할 것이다.

현재 청소년보호법상 유해 매체물로 국한하고 있는 청소년 유해정보 범위도 영국, 호주 수준으로 다양하게 정의하고 관리해야 한다. 이에 더해 아동과 보호자 등 온라인 이용자들이 스스로 위험을 감지하고 대응해 나갈 수 있도록 적극적인 교육과 지원을 병행한다면 ‘아이들이 안심하고 뛰어놀 수 있는 온라인 세상’에 한 걸음 더 다가갈 수 있을 것이다.

9월 10일 오전 서울 중구 서울시청에서 열린 '서울특별시-서울중앙지방검찰청-서울경찰청-서울특별시교육청 아동·청소년 딥페이크 공동대응 업무협약식'에서 김봉식(왼쪽부터) 서울경찰청장과 오세훈 서울시장, 이창수 서울중앙지검 검사장, 설세훈 서울시 교육감 권한대행이 협약서 서명·교환을 마치고 기념촬영을 하고 있다. 뉴시스

정보통신망 관련 법과 제도를 개선하고, 기업의 노력을 촉구하는 것만으로 온라인 공간에서 아동의 안전을 완전히 담보하긴 어려울 수 있다. 그러나 온라인 곳곳의 ‘위험한 방’들로부터 아이들을 보호할 단초를 마련하는 일이다.

아이들이 걱정 없이 마음껏 뛰어놀 수 있고 최소한의 안전망을 갖춘 온라인 환경을 만들어 가는 길에 많은 관심과 적극적인 동참이 절실하다. 대한민국이 딥페이크의 온상이라는 오명을 벗고 온라인 안전을 가장 잘 실천하는 나라로 국제사회에서 인정을 받을 수 있도록 말이다.

※ 외부 필진 기고는 본지의 편집 방향과 다를 수 있습니다.

황영기 초록우산 회장