10대 딥페이크…“당신의 자녀가 위험하다”

청소년 스마트폰 셧다운해야 하나

“한국이 비상사태에 직면했다.” (영국 BBC)

“급증하는 딥페이크 성범죄와 싸우는 한국.” (가디언)

여성 얼굴에 음란물을 합성한 영상을 제작, 유포하는 ‘딥페이크’ 성범죄가 속출하면서 대한민국이 난리가 났다. 주요 외신도 한국 딥페이크 사태의 심각성을 연일 보도하며 경각 수위를 높이는 중이다. 특히 이번 딥페이크 사태는 딥페이크를 만든 이와 피해자가 대부분 10대라는 사실이 알려지면서 사회가 더욱 큰 충격에 빠졌다.

딥페이크는 특정 인물의 얼굴을 인공지능(AI)에 학습시킨 다음, 그 얼굴을 다른 사람이 나온 사진·영상에 교묘하게 합성시켜 만든 콘텐츠를 의미한다. 10대 딥페이크 범죄가 활개를 치는 것은 청소년 스마트폰 중독 문제와 무관하지 않다는 진단이다. 특히 코로나19 팬데믹 이후 스마트폰 사용 시간이 늘면서 스마트폰에 중독된 청소년들이 딥페이크 가해자로 전락하거나 온갖 학교 폭력 문제를 일으켜 일선 학교 현장은 그야말로 ‘아수라장’이다. 아예 청소년 대상 스마트폰 판매를 금지해야 한다는 주장이 나올 정도로 스마트폰 부작용을 서둘러 해결해야 한다는 목소리가 크다.

청소년 하루 3시간 스마트폰 노출

딥페이크 가해·피해자 대부분 10대

10대 딥페이크 성범죄가 활개를 친 배경을 들여다보면 스마트폰 폐해를 무시할 수 없다. 정보통신정책연구원에 따르면 지난해 10대 청소년들의 스마트폰 이용 시간은 하루 평균 2시간 41분에 달한다. 하루 3시간 가까이 스마트폰에 노출된 데다 쇼츠, 릴스 등 숏폼 콘텐츠가 급증하면서 몰입도가 커져 중독성도 더욱 높아졌다.

무엇보다 청소년들이 글로벌 플랫폼에서 유해 콘텐츠를 쉽게 접할 수 있다는 점이 문제다. 유튜브, 인스타그램, 틱톡 등 10대가 많이 이용하는 플랫폼 중 단 한 곳도 성인 인증이나 연령 인증을 하지 않는다. 회원 가입 시 출생 연도를 요구하기는 하지만, 실제 태어난 해를 기입하지 않아도 얼마든지 가입이 가능하다. 영상 추천 알고리즘(자동 추천 기능)도 플랫폼에서 불법, 유해 콘텐츠 확산을 부추긴다. 성매매나 마약 거래 등을 암시하는 콘텐츠들이 끝도 없이 이어진다.

스마트폰 유해 콘텐츠에 무방비로 노출되면서 10대 청소년들이 딥페이크 가해자, 피해자로 전락하는 사례가 허다하다.

양부남 더불어민주당 의원이 경찰청에서 제출받은 자료에 따르면 딥페이크 범죄 가해자 중 미성년자가 차지하는 비중은 70%를 넘는다. 허위 영상물 범죄 혐의로 입건된 전체 피의자 중 10대가 차지하는 비중은 2021년 65.4%에서 지난해 75.8%로 치솟았다. 가해자뿐 아니라 피해자도 대부분이 10대다. 2021~2023년 기준 허위 영상물 사건 피해자 527명 중 절반을 넘는 315명이 10대였다.

딥페이크 피해 사례는 하루가 다르게 쏟아지는 중이다. 최근 딥페이크 불법 합성물과 아동·청소년 성 착취물을 해외 SNS를 통해 판매한 10대들이 경찰에 붙잡히기도 했다. 이들은 해외 커뮤니티 앱에서 유명 연예인 등의 얼굴을 합성한 딥페이크 성 착취물 1230개, 아동·청소년 성 착취물 4만4000여개를 15명에게 판매했다.

스마트폰은 SNS를 활용한 딥페이크, 성범죄뿐 아니라 친구, 교사를 비방하는 학폭 용도로까지 쓰인다. 다수 교사와 학교 폭력 전문 변호사들에게 교육 현장에서의 스마트폰 폐해 사례를 들어본 결과, 이들은 청소년 스마트폰 사용이 범죄로 이어지는 경우가 빈번하다고 입을 모았다.

평소 인스타그램에 셀카 사진을 자주 올리는 고등학생 A양(17)은 최근 자신의 사진이 음란물로 제작돼 무단으로 텔레그램에서 유포된 것을 알게 됐다. 같은 학교 남학생들이 AI 기술을 활용해 A양 사진을 음란물로 합성한 게 원인이었다. 사실을 알게 된 가해 학생 여자친구가 A양에게 가해자들의 범죄 사실을 알려줬다. A양은 가해 학생들을 학교 폭력으로 신고했다. 학교 폭력 신고가 접수되면, 학교는 즉시 피해 학생과 가해 학생을 분리 조치한다. 단 법적 분리 기간은 최대 7일로, 통상 이 기간이 끝나면 다시 얼굴을 마주해야 하는 게 현실이다.

교사 출신 나현경 학교 폭력 전문 변호사는 “딥페이크나 SNS 관련 범죄가 청소년들 사이에서 광범위하게 퍼지지만, 특수한 경우를 제외하고 대부분 사건은 교육적 차원의 보호 처분으로 종결된다”며 “이런 범죄는 익명성과 손쉬운 접근성 때문에 재범률이 높지만, 범죄의 재발을 막기 위한 실질적인 교육이 부재한 상황”이라고 짚었다.

딥페이크뿐 아니다. 익명성 뒤에 숨어 남을 비방하는 이른바 ‘저격 행위’도 판친다.

초등학생 B군은 최근 자신과 싸웠던 C군이 카카오톡 상태 메시지에 B군의 초성과 함께 욕설을 적어놓은 것을 발견했다. B군은 C군에게 글을 내려달라고 했으나, C군은 자신이 특정 인물을 언급한 것이 아니라며 거부했다. 결국 B군이 담임선생님에게 이 사실을 말하면서 일단락됐다. 이처럼 공공연하게 저격 행위를 알리는 경우도 있지만, 멀티프로필이나 친한 친구 기능을 활용해 특정 일부에게만 저격 사실을 은밀하게 알리는 경우도 흔하다. 경남 한 초등학교에 근무 중인 D초등교사는 “카카오톡으로 욕설을 공유해 집단 따돌림으로 신고된 경우가 흔하다”고 들려줬다.

교육지원청에서 근무했던 박종민 변호사는 “요즘 학교 폭력이나 교권 관련 문제 대부분은 SNS와 관련이 있다고 해도 과언이 아니다”라며 “과거에는 같은 학교나 반에서만 학교 폭력 문제가 발생했지만, 이제는 SNS를 통해 시간·공간적 제약 없이 폭력이 일어나면서 청소년에게 회복될 수 없는 깊은 상처를 남긴다”고 우려했다.

스마트폰 공습으로 교실은 이미 아수라장이다. 정상적인 수업이 진행되지 않은 지는 오래다. 대다수 학교가 스마트폰을 수거하기보다 학생 자율에 맡기는데, 교사가 전원을 끈 상태로 스마트폰을 보관하라고 일러두지만 따르지 않는 학생들이 대다수라는 전언. 이 때문에 하루에도 여러 차례 스마트폰 알림음이 울려 수업이 중단되는 일이 빈번하게 발생한다

고. 대구에서 근무 중인 한 교사는 “수업 중 일부 학생들이 스마트폰을 만지거나 블루투스 이어폰을 착용하고 음악을 듣는 등 방해 행위 역시 자주 발생한다”고 들려준다.

심지어 수업 중인 교사를 몰래 불법 촬영하는 사례도 허다하다. 지난 5월 경기도의 한 고등학교에서는 E군이 수업 시간에 질문하는 척하며 교사의 치마 속을 몰래 촬영하는 사건이 발생했다. 이후 교사 신고를 받은 경기도교육청은 E군을 고발하기로 결정했다.

학교에서 스마트폰을 수거하는 경우에도 학생들은 오래된 공기계를 제출하고, 실제 사용하는 스마트폰은 숨기는 일이 잦다. 화장실에 가겠다는 핑계로 스마트폰을 사용하는 등 교사 지시를 무시하는 사례도 흔하다. 익명을 요청한 한 교사는 “학생들이 공기계를 제출한 뒤 진짜 휴대폰을 사용하더라도, 이를 제지할 방법이 없다”고 토로했다.

스마트폰 중독은 학생들의 학습 능력에도 악영향을 미친다. “학생의 맞춤법 실수가 늘어나고, 기본적인 문해력도 떨어지고 있다”는 것이 교사들의 대체적인 평가다. 현재 청소년들은 스마트폰이 본격적으로 보급된 시기 이후 태어나 직접 연필을 잡기보단 영상물을 시청하는 데 매우 익숙하다. 더욱이 코로나 팬데믹 기간 영상물을 통한 학습이 일반화되면서 문해력은 더욱 약화됐다. ‘사흘’을 ‘4흘’로 오해하는 등 기본적인 지식마저 제대로 습득하지 못하는 경우가 부기지수다.

틱톡 같은 숏폼 콘텐츠 유행으로 학생들의 집중력은 눈에 띄게 떨어졌다는 분석도 설득력 있게 들린다. 숏폼 콘텐츠는 1분 이하 짧은 영상으로, 기존 영상에 비해 강력한 중독성을 띠는 만큼 학생들이 더욱 쉽게 중독된다. 이로 인해 무엇보다 학생들이 긴 시간 동안 한 가지 주제에 집중하는 것을 어렵게 만든다는 지적이 이어진다. 서울 한 중등교사는 “숏폼 콘텐츠에 익숙해진 학생들이 진득하게 글을 읽는 등 인내심을 갖춘 활동을 어려워하고 있다”고 전했다.

8월 29일 오후 경기도 수원시 경기도교육청에서 공무원들이 딥페이크 피해보호조치 관련 카드뉴스를 살펴보고 있다. (연합뉴스)

스마트폰 셧다운 어떻게 할까

‘청소년 SNS 금지’ 등 법안 쏟아져

스마트폰 폐해가 커지면서 서둘러 대책을 마련해야 한다는 목소리가 크다. 현행 법률에서 딥페이크 성 착취물을 처벌할 수 있는 조항은 ‘성폭력 처벌 특례법 14조의 2’다. 이 조항은 허위 영상물 등을 제작, 배포하면 5년 이하 징역이나 5000만원 이하 벌금에 처한다고 규정한다.

하지만 이 조항에는 결정적인 문제가 있다. 딥페이크 성 착취물을 시청하거나 소지하는 것만으로는 처벌받지 않는 점이 한계다. 유포자를 처벌하기는 하지만 유포 목적이 입증돼야 처벌이 가능하다는 점도 문제다. 실제 재판에 넘겨져도 ‘유포 의도가 없었다’는 이유로 처벌을 면하거나 가벼운 벌금형에 그치는 경우가 수두룩하다. 만 10세 이상 14세 미만 청소년인 ‘촉법소년’의 경우 범죄를 저질렀더라도 형사처벌을 면하고 범죄 기록도 남지 않는다.

이 때문에 딥페이크가 유통, 배포되는 텔레그램, 유튜브 등 빅테크 규제를 서둘러야 한다는 목소리가 크다. 유럽연합(EU)은 플랫폼 사업자에게 불법, 유해 콘텐츠 제거 의무를 지게 하는 ‘디지털서비스법(DSA)’을 도입했다. 앞서 5월에는 세계 최초로 포괄적 성격의 AI 규제법을 최종 승인했다. 딥페이크로 만든 이미지에 ‘AI로 조작된 콘텐츠’라고 표시해야 한다는 내용을 담았다.

미국도 지난 1월 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 음란물 이미지가 유포된 후 관련법 제정 움직임이 거세다. 미국 의회 상원은 최근 피해자가 딥페이크 음란물의 제작·유포·소지자에게

15만달러(약 2억원) 손해배상을 청구할 수 있는 내용을 담은 ‘저항(Defiance)법’을 발의했다.

하지만 한국에는 플랫폼에 책임을 지우는 법이 아예 없다. 국회에서는 2021년 디지털 성범죄 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있도록 권한을 부여하는 법안이 발의됐다. 지난해에는 디지털 성범죄의 경우 징역형 상한을 올리는 법안도 발의됐다. 하지만 모두 회기 만료로 폐기됐다. 논란이 커지자 국민의힘과 정부는 딥페이크 성범죄의 처벌 수위를 강화하기로 했다. 현행 최대 징역 5년인 허위 영상물 유포 등의 형량을 최대 징역 7년으로 강화하는 방안을 추진한다.

이참에 청소년 SNS 이용을 제한해야 한다는 논의도 시작됐다. 정치권에서는 여야 가리지 않고 청소년 SNS 제한법이 잇따라 발의됐다.

윤건영 더불어민주당 의원은 SNS 사업자가 14세 미만 아동의 회원가입을 거부하도록 하는 내용의 법안을 발의했다. “SNS가 아동의 지능, 인지, 정신건강 발달에 악영향을 끼치고 아동을 유해, 불법 콘텐츠와 사이버 불링에 무방비로 노출시킨다는 우려가 제기되고 있다”는 게 윤 의원의 설명이다.

청소년 SNS 중독 방지를 위한 이른바 ‘청소년 필터버블 방지법’도 나왔다. 필터버블은 SNS 알고리즘이 이용자를 특정 콘텐츠에 갇히게 만드는 현상을 뜻한다. 김장겸 국민의힘 의원이 발의한 이 법안은 알고리즘을 활용해 지속적으로 이용자에게 제공하는 정보를 중독성 콘텐츠로 규정하고, 알고리즘 기반 SNS 사업자가 미성년자 가입 여부를 확인해 법정대리인의 동의 여부를 확인할 것을 의무화하는 내용을 담았다.

청소년의 SNS 사용 시간을 제한하는 법안도 눈길을 끈다. 조정훈 국민의힘 의원안은 16세 미만의 청소년의 SNS 일별 이용 한도를 설정하고 중독을 유도하는 알고리즘 허용 여부에 대해 친권자의 확인을 받도록 하는 것이 골자다. 이른바 ‘SNS판 셧다운제’다.

전문가들은 이른바 ‘불안 세대’로 전락한 청소년들을 하루빨리 스마트폰에서 구출해야 한다고 입을 모은다.

세계적인 사회심리학자인 조너선 하이트 미국 뉴욕대 스턴경영대학원 교수는 저서 ‘불안 세대’에서 밖에서 친구와 놀기보다 스마트폰, 태블릿을 보며 자란 Z세대를 ‘불안 세대’로 규정한다. 친구와 대면 활동을 하는 시간이 대폭 감소하는 ‘사회적 박탈’이 일어났고 우울증, 불안, 집중력 상실 현상이 심화됐다. 하이트 교수는 청소년 정신 질환을 종식시키려면 SNS의 해악에 노출되는 시기를 민감한 뇌 발달 시기 이후로 미루자고 강조한다. 이른바 ‘디지털 금식’이 필요하다는 의미다.

“아동의 뇌 회로는 쉽게 변경되는 만큼 스마트폰 몰입은 어른보다 어린이에게 더 위험하다. 스마트폰을 손에 쥐면, 뇌에 절실히 필요한 경험이 삶에서 밀려나버린다. 14세가 되기 전까지는 스마트폰을 금지하고 기본 휴대폰만 제공해야 한다. 또 16세 미만에는 SNS를 금지하고, 학교에서 스마트폰을 사용하지 못하게 해야 한다.” 하이트 교수 의견은 눈길을 끈다.

청소년들이 스마트폰을 사용하고 있다. (연합뉴스)

스마트폰 폐해 막으려면

제대로 된 교육부터…‘청소년 판매 금지’ 검토할 만

당장 학교 현장부터 스마트폰 규제가 필요하다는 의견도 나온다. 조현섭 총신대 중독상담학과 교수는 “학교에서 스마트폰을 제한하지 않으면 청소년들이 폭력적 콘텐츠나 도박 같은 부정적 콘텐츠에 쉽게 노출된다”며 “스마트폰 수거가 학생 인권을 침해한다는 비판도 있지만 문제의 본질은 스마트폰 중독 예방이다. 진정한 인권은 아이들이 건강하게 자라는 것”이라고 평가했다.

이와 관련 글로벌 플랫폼 규제는 근본적인 해법이 되기 어렵다는 인식이다. 또 다른 유해 플랫폼이 계속 등장하면 청소년들은 계속해서 유해 콘텐츠에 노출될 수밖에 없기 때문이다. 온갖 학폭 발생 요인을 막기 위해서라도 청소년의 SNS 계정 보유를 막거나 청소년들에게 아예 스마트폰 같은 디지털 기기 판매를 금지시켜야 한다는 의견이 오히려 설득력 있게 들린다. 영국 이동통신사 EE는 11살 미만 어린이에게는 스마트폰을 주지 말라고 부모들에게 권고하는 지침을 내놔 눈길을 끌었다.

“학부모와 자녀가 싸우는 원인은 대부분이 스마트폰이다. 학교 내에서도 스마트폰이 없는 학생은 서로 소통이 안 되고 왕따가 될 우려가 큰 만큼 부모 입장에서도 스마트폰을 사주지 않을 수 없다. 아침에 등교할 때 스마트폰을 거둬도 스마트워치 같은 디지털 기기로 얼마든지 대화 녹음을 하고 학폭 증거로도 활용한다. 인터넷이 안 되는 공신폰을 줘도 학생들이 어떻게든 와이파이 되는 곳을 찾아다닌다. 결국 청소년에게 스마트폰 같은 디지털 기기 판매를 아예 금지시키는 것 말고는 답이 없다.” 학폭 업무를 주로 맡아온 인천 F중학교 교사 의견은 새겨들을 만하다.

한편에서는 물리적 규제보다 학생들의 자율 조절 능력부터 길러줘야 한다는 의견도 나온다. 법적 규제를 하더라도 청소년 행동을 개선하는 교육이 병행돼야 한다는 의미다. 권일남 명지대 청소년지도학과 교수는 “스마트폰 중독은 청소년 사회성 발달과 대인관계 형성에 부정적인 영향을 미치는 데다 은둔, 고립을 초래할 가능성도 높다”며 “스마트폰 사용을 억제하는 강력한 규제는 오히려 중독을 심화시킬 수 있어 자율적인 조절 능력을 키우는 교육이 필요하다”고 말했다.

미국 유타주 델타의 델타고등학교에서 한 학생이 수업 전에 자신의 스마트폰을 공용 보관소에 맡기고 있다. (AP)

세계 주요국도 스마트폰 규제 바람
미국·프랑스 ‘등교 후 스마트폰 사용 금지’

스마트폰 폐해가 커지자 해외 주요국들은 서둘러 대책 마련에 나섰다. 유럽연합(EU)에서는 일찌감치 청소년 스마트폰 규제 바람이 불었다.

프랑스 정부는 내년부터 중학교를 대상으로 ‘등교 후 스마트폰 금지’ 정책을 전면 시행하기로 했다. 이에 앞서 올 9월부터 ‘디지털 쉼표’ 조치를 시범 도입한다. 디지털 쉼표는 학생들이 등교 시 스마트폰을 모두 제출하고 하교 시 돌려받는 방식으로 운영된다.

프랑스는 2018년 초·중학교 내 휴대폰 사용을 금지하는 방안을 통과시켰지만 강제성 부족으로 실효성이 떨어진다는 평가를 받았다. 고민하던 교육당국은 결국 물리적으로 학생들의 스마트폰 사용을 제한하기로 결정했다.

이는 마크롱 대통령이 설립한 ‘스크린 사용 전문가 위원회’ 권고안을 따른 조치다. 위원회는 스마트폰 같은 디지털 기기가 수면, 신체활동, 비만, 시력 등에 부정적 영향을 미친다고 지적했다. 또한 연령대별 휴대폰 사용 제한을 권고했다. 11세 이전에는 휴대폰 사용 자체를 금지하고, 11~13세는 인터넷 접속이 불가능한 휴대폰만 허용하는 식이다. 15세 이전에는 SNS 접속을 차단해야 한다고 제안했다. 15세 이후에는 윤리적인 SNS 사용만 허용하되 인스타그램, 틱톡, 스냅챗 등 글로벌 플랫폼은 18세 이후에나 사용 가능하다고 권고했다.

그리스 정부는 수업 중 휴대폰을 사용하지 못하도록 하는 새 규정을 발표했다. 수업 중 휴대폰을 사용하는 것이 처음 적발된 학생은 하루 동안 수업에서 빠지게 된다. 또다시 휴대폰을 사용하다 걸리면 며칠 동안 수업에서 제외된다. 허락 없이 반 친구나 교사를 촬영할 경우 퇴학을 당할 수도 있다.

독일은 이미 공립학교에서 교육 외 목적의 휴대폰 사용을 제한해왔다. 이탈리아 역시 2022년부터 교내 휴대폰 사용을 금지해왔다. 네덜란드는 스마트폰 탓에 학생이 산만해지고 성적이 저하된다는 이유로 올해부터 초등학교와 특수학교에서 스마트폰을 비롯해 태블릿PC, 스마트워치 사용도 금지했다.

미국도 청소년 스마트폰 사용 금지에 나섰다. 루이지애나 등 11개 주에서 학교 내 스마트폰 사용을 제한하거나 막는 법을 정해 시행 중이다. 루이지애나주에서는 최근 학생들이 학교 내에서 모든 스마트폰과 스마트워치를 사물함에 보관하도록 하거나 전원을 끄게 만드는 법안이 발효됐다. 캘리포니아주에서는 주지사가 나서서 스마트폰 제한을 촉구하는 서한을 각 학교에 보내기도 했다. 청소년의 스마트폰 중독 문제를 ‘주머니 속의 헤로인’ ‘정신 건강 전염병’이라고 표현할 정도다. 세계 각국이 일명 ‘스마트폰과의 전면전’을 선포한 셈이다.

[김경민·조동현 기자, 이호준 인턴기자]

[본 기사는 매경이코노미 제2276호 (2024.09.11~2024.09.26일자) 기사입니다]