10대 딥페이크 범죄 급증…온라인 플랫폼 규제 강화 목소리

“해외는 강력한 온라인 안전법... 국내 대책은 미흡”

지난해 딥페이크(인공지능 기반 영상물 조작) 성범죄 피의자 4명 중 3명이 10대인 것으로 나타났다. 청소년들 사이에서 ‘지인 능욕’ 형태의 범죄가 놀이문화로 확산되면서 피해도 급증하고 있다. 전문가들은 해외 주요국들의 온라인 안전법 사례를 들며 국내 플랫폼 규제 강화의 필요성을 제기했다.

26일 국민의힘 박성훈 의원실과 국회 입법조사처의 주최로 열린 ‘아동·청소년의 온라인 안전, 이대로 괜찮은가?’ 토론회에서 전문가들은 청소년 온라인 범죄의 심각성을 지적하며 대책 마련을 촉구했다.

사진=게티이미지뱅크

경찰청 자료에 따르면 올해 1월부터 7월까지 딥페이크 관련 성범죄로 입건된 피의자 중 73.6%가 10대였다. 지난해 75.8%에 이어 여전히 높은 수준이다. 청소년 온라인 범죄는 성범죄에 그치지 않았다. 올해 상반기 사이버도박 특별단속에서 적발된 2925명 중 35%인 1035명이 19세 미만이었으며, 10대 마약사범은 2017년 119명에서 최근 1551명으로 7년 만에 13배 증가했다.

김일우 한국청소년정책연구원 부연구위원은 사회관계망서비스(SNS) 중독과 정신건강 문제의 상관관계를 지적하기도 했다. 김 위원은 “10대 청소년의 일일 평균 SNS 사용 시간이 2016년 3시간20분에서 2022년 8시간으로 증가했으며, 이는 우울증·불안장애 등 정신건강 문제와 밀접한 연관이 있다”고 설명했다.

전문가들은 국내 온라인 플랫폼들의 청소년 보호 대책이 미흡하다고 지적했다. 해외 주요 플랫폼들이 연령별 이용 제한, 콘텐츠 필터링 등 다양한 보호 장치를 마련한 것과 대조적이다. 메타(페이스북, 인스타그램)는 18세 미만 이용자의 계정을 자동으로 비공개 설정하고, 틱톡은 13~15세 계정의 실시간 방송 및 댓글 기능을 제한하고 있다.

해외에서는 국가 차원의 온라인 안전 규제도 강화됐다. 영국은 ‘온라인안전법’을 통해 소셜미디어 기업에 아동 보호 의무를 부과하고 위반 시 최대 매출의 10%를 과징금으로 부과하는 등 강력한 제재를 시행하고 있다. 호주는 14~16세 이전까지 SNS 이용을 금지하는 ‘SNS 연령제한법’을 준비 중이다.

사진=게티이미지뱅크

최경미 중앙선거관리위원회 선거연수원 지정교수는 “해외 사례를 참고해 국내에서도 플랫폼의 기술적 특성, 이용자 규모, 아동 접근성을 평가해 차등적 의무를 부과하는 방식의 법안 마련이 필요하다”고 제안했다.

반면 김영규 한국인터넷기업협회 정책실장은 “기업들의 자율규제를 통해 사용자 안전과 플랫폼 신뢰도를 높이는 것이 장기적으로 기업 성장에 도움이 될 것”이라며 정부 주도의 강력한 규제에는 신중한 입장을 보였다.

조용성 한국전자통신연구원 박사는 기술적 대응의 한계를 지적했다. 조 박사는 “딥페이크 기술의 발전 속도가 현재의 차단 시스템을 무력화시킬 수 있다”며 “AI(인공지능) 기술과 인간의 협업을 통한 새로운 대응 방식이 필요하다”고 제안했다.

최진응 국회입법조사처 입법조사관은 “해외 플랫폼 규제를 위해서는 국제 협력이 필수적”이라며 “경제적 이익을 고려해 현지법 준수를 유도하는 방안을 모색해야 한다”고 조언했다.

전문가들은 공통적으로 아동·청소년 온라인 안전 문제에 대한 통합적 접근과 지속적인 논의의 필요성을 강조했다. 플랫폼 기업의 자율규제 강화, 연령별 이용 제한 도입, 알고리즘 투명성 확보 등 다각도의 대책 마련이 시급하다는 데 의견을 모았다.

이예림 기자 yeah@segye.com