동영상에 푹 빠진 아이들…AI플러팅, 마약 노출 막는다 [세상&]

여가부 ‘제5차 청소년보호종합대책’ 발표
AI 이용 시 음란대화·불법정보 제공 제한
청소년 ‘미디어 과의존’ 위험군 관리 집중
심각해진 10대 도박·마약 범죄 근절책도
딥페이크 피해 지원 및 가해자 처벌 강화

[헤럴드경제=안효정 기자] 청소년들이 일상생활에서 인공지능(AI) 등 디지털 서비스를 자주 이용하면서 유해 콘텐츠에 노출되기 쉬운 환경이 조성되자 정부가 이에 맞춰 청소년 보호 대책을 마련했다. 청소년의 미디어 과의존 위험도를 낮추고 온라인상에서 이뤄지는 성범죄나 도박, 담배·술·마약 거래 등을 근절하겠다는 계획이다.

여성가족부는 29일 관계부처 합동으로 이러한 내용을 담은 ‘제5차 청소년보호종합대책(2025~2027)’을 발표했다.

너도나도 쓰는 AI, 부작용 우려…스마트폰에 빠진 청소년 구해야

정부는 청소년이 디지털 매체를 오용하지 않도록 제도적 장치를 고심했다. 최근 AI 서비스 사용이 확산하면서 청소년의 개인정보가 유출되거나 유해 콘텐츠에 노출되는 등 부작용이 나타나고 있어서다. 미디어 과의존에 대한 위험도 지속되고 있다. 실제로 청소년의 AI 서비스 경험률은 2023년 66%→2024년 67.9%로 증가했고 청소년 스마트폰 과의존 비율도 2022년 40.1%→2024년 42.6%로 늘었다.

우선 정부는AI 서비스의 이용자 보호제도를 정비하기로 했다. 생성형 인공지능 챗봇을 이용할 때 음란 대화나 불법 정보가 제공되지 않도록 제한을 두는 가이드라인을 만든다. AI 챗봇이 음란하거나 혐오 발언을 하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 소셜미디어(SNS)를 통해 공유되면서 사회적 문제로 떠올랐기 때문이다.

또 SNS와 짧은 영상 콘텐츠(숏폼) 등을 사용할 때 이용자 연령을 확인하고 사업자 책무를 강화하는 등의 미디어 플랫폼 관리 방안을 수립한다.

채팅앱이나 SNS, 인터넷 방송 등에서 불법·유해 정보가 유통되고 있는지도 청소년 유해매체 점검단을 통해 상시 확인할 계획이다. 방송통신위원회는 정보통신사업자의 청소년보호책임자와 불법 촬영물 등 유통방지 책임자가 교육 및 보호조치를 제대로 이행했는지 살펴본다.

아울러 청소년 스스로도 디지털 매체를 다룰 수 있는 역량을 가질 수 있도록 연령별·매체별 특성에 맞는 미디어 이해력(리터러시) 교육을 확대하고 미디어 과의존·과몰입 청소년의 치유 지원을 강화한다.

‘무인 판매장’ 노린 청소년 범죄 단속…도박·마약도 집중 관리

정부는 청소년 생활 주변의 불법 및 유해환경을 차단하는 방안을 마련 중이다. 무인 판매업소와 온라인을 통해 판매되는 유해 물건이 없도록 ▷업주 대상 청소년 보호법 교육 실시 ▷무인 판매업소의 나이 인증 강화 ▷온라인 유통 시 청소년 유해물건 정보 노출 제한 등의 방안을 검토한다. 또 불건전 만남 알선 등 유해업소 불법광고물에 대한 단속을 늘린다.

신종 청소년 위험 요인으로 꼽히는 도박 및 마약 문제도 집중 관리한다. 경찰청에 따르면 도박범죄로 검거된 10대는 2022년 74명→2024년 564명으로 7배 이상 불어났다. 10대 마약류 사범은 2021년 450명→2022년 481명→2023년 1477명으로 꾸준히 늘고 있다.

이에 따라 정부는 불법 도박 사이트를 홍보하거나 사행심을 자극하는 광고를 감시하고 청소년이 계좌를 개설할 때 불법 도박·거래에 관한 주의사항을 반드시 안내하도록 한다. 온라인 도박에 이용된 금융계좌가 있을 경우 신속하게 지급정지할 수 있는 방안을 마련하고 청소년을 이용한 도박 관련 범죄에 대한 양형 강화를 추진한다.

청소년에 대한 의료용 마약류 처방 제한 기준도 만든다. 미성년자 등에게 마약류 투약을 유인·권유하거나 정보통신망에 마약류 정보를 유통하는 행위에 대해선 처벌 등의 제도개선을 추진한다.

딥페이크 성범죄 피해자 요청시 ‘즉시 차단’ 의무화…가해자 처벌 강화도

딥페이크 성범죄가 사회 전체의 고민으로 떠오르면서 피해자 보호도 강화한다. 피해자가 삭제 요청을 하면 플랫폼 사업자는 성범죄물 판단이 어려운 경우이더라도 해당 영상물 등을 우선 차단한 뒤 방통위에 심의 요청을 하도록 의무화한다. 디지털 성범죄에 따른 범죄행위로 얻은 재산과 수익을 몰수·추징하는 규정을 신설해 가해자 처벌을 강화한다.

근로청소년의 권익 보호에도 힘쓴다. 근로청소년 중 최저시급 미만의 급여를 받는 비율은 2022년 13.9%→2024년 29.4%로 2배 가량 증가했다. 청소년이 다수 근무하는 음식점 등 소규모 사업장 중 임금체불이 있는 사업장을 대상으로 근로 감독을 강화한다.

나아가 오는 8월부터는 청소년 보호책임자를 지정·운영해 대중문화예술산업에 종사하는 청소년의 건강·학습권·수면권·휴식권 등을 보장하기로 했다.