"청소년 온라인 보호제, AI 플랫폼에 한계…생애주기관리 필요"

천혜선 위원, 청소년정책포럼 발제…그루밍·과몰입 등 새로운 위험 부상

SNS 범죄 노출된 아이들…원스톱 모니터링 필요 (CG) [연합뉴스TV 제공]

(서울=연합뉴스) 차민지 기자 = 기존의 청소년 온라인 보호제도가 음란·도박물 등 유해 콘텐츠 차단에는 성과를 거뒀지만, 생성형 인공지능(AI)과 추천 알고리즘 기반 플랫폼 확산에 따른 새로운 위험에는 한계를 드러내고 있다는 지적이 나왔다.

천혜선 디지털산업정책연구소 연구위원은 20일 열린 '2026년 제4차 청소년정책 포럼' 발제에서 현행 청소년 온라인 보호 제도가 유해매체물을 정의·심의하고 접근을 제한하는 방식에 기반하고 있으며, 전통적인 유해 콘텐츠 노출 감소에는 일정 부분 효과를 거뒀다고 평가했다.

청소년매체이용 및 유해환경실태조사에 따르면 성인용 영상물 이용률은 2016년 41.5%에서 2024년 26.5%로, 성인용 인터넷 게임 이용률은 13.1%에서 6.1%로 감소하는 등 콘텐츠 기반 유해정보 노출은 전반적으로 줄어드는 추세를 보였다.

다만 청소년의 온라인 활동이 SNS·메신저·AI 기반 서비스 중심으로 이동하면서 기존 규제 체계만으로는 대응하기 어려운 위험이 커지는 것으로 분석됐다.

천 연구위원은 디지털 플랫폼 이용이 일상화되고 개인화 서비스가 확산하면서 부모·보호자의 관리 영역 밖에서 이뤄지는 온라인 활동이 늘어나고 있다고 설명했다.

또 프로필 기반 쌍방향 서비스에서의 그루밍·사이버폭력, 알고리즘 기반 추천 서비스의 과몰입·중독, AI 기반 챗봇 위험 등은 유해 콘텐츠를 삭제하더라도 서비스 구조 자체가 바뀌지 않으면 다른 형태로 반복될 수 있다고 지적했다.

특히 생성형 AI·대화형 AI 서비스처럼 새로운 유형의 서비스가 등장할 때마다 기존 목록 기반 규제 체계로는 입법 공백이 반복될 수 있다고 우려했다.

온라인 그루밍 (PG) [장현경 제작] 일러스트

천 연구위원은 이에 대응하기 위해 서비스 설계 단계부터 위험을 관리하는 '생애주기 기반 위험관리 체계'가 필요하다고 제언했다.

위험을 사회적으로 정의하고 이를 서비스 설계·운영 단계에 반영한 뒤 지속적으로 점검·환류하는 순환형 구조가 필요하다는 것이다.

천 연구위원은 "위험의 정의는 사회가, 위험의 설계 단계 반영은 사업자가 담당하는 역할 분담 구조가 필요하다"며 "AI 서비스가 어떻게 작동하는지, 어떤 패턴이 위험을 야기하는지는 서비스를 운영하는 사업자가 가장 잘 알 수 있다"고 주장했다.

이날 함께 공개된 '온라인 플랫폼의 아동·청소년 보호책임에 대한 국민 인식 조사'에서는 플랫폼의 청소년 보호조치 필요성에 공감하는 응답이 다수로 나타났다.

성인 남녀 518명을 대상으로 한 조사에서 청소년 보호책임을 우선 고려해야 할 서비스로는 인터넷 개인방송(68.9%), 메신저·SNS(66.8%), 랜덤채팅 앱(58.1%) 순으로 꼽혔다.

플랫폼 규모와 서비스 유형, 청소년 이용자 비율 등에 따라 차등적으로 보호책임을 부과하는 방안에는 응답자의 78.4%가 찬성했다.

또 서비스 출시 전 위험 요소를 점검하는 '사전 영향 검토 제도'에 대해서는 64.3%가 실효성이 있을 것으로 내다봤다.

SNS 보호조치와 관련해서는 특정 연령 이하 이용 자체를 제한하는 방안(67.3%)보다 청소년 계정 기본 비공개와 DM 제한 등 설계 기반 보호조치(78.5%)에 대한 찬성률이 더 높게 나타났다.

천 연구위원은 "이미 디지털 서비스가 청소년의 표현·참여·정보접근권이 실현되는 공간으로 받아들여지고 있는 만큼 국민이 기대하는 보호는 전면적 배제보다 새로운 디지털 환경의 위험을 정의하고, 위험 발생 지점에 비례한 정밀한 규제에 가깝다"고 설명했다.

chacha@yna.co.kr

▶제보는 카톡 okjebo