이주희 의원, ‘아동·청소년 온라인 안전법’ 발의…AI 유해 콘텐츠 차단

AI 사업자 책임 명확화…유해·불법 콘텐츠 생성 금지
해외 사업자 국내 대리인 지정 의무 부과
“플랫폼 전반 규율하는 2단계 입법도 추진”

[이데일리 이소현 기자] 이주희 더불어민주당 의원은 27일 인공지능(AI)을 통해 생성되는 아동·청소년 대상 유해·불법 콘텐츠를 차단하기 위한 정보통신망법 개정안을 대표발의했다고 밝혔다.

이번 개정안은 AI 서비스 확산으로 유해정보가 단순 유통을 넘어 생성·편집·합성 형태로 제공되는 현실에 대응하기 위해 마련됐다. 특히 대화형 AI 등이 청소년의 정서적 의존과 과몰입을 유발할 수 있다는 점도 입법 배경으로 반영됐다.

개정안은 △AI 서비스 제공자 개념 신설 △해외 사업자 국내대리인 지정 의무 △청소년 유해정보 생성·제공 금지 △연령·본인 확인 및 보호조치 의무 △불법정보 생성 방지를 위한 모니터링·로그기록·반복 요청 경고 등 관리 의무를 주요 내용으로 담았다.

또 방송통신위원회에 점검 및 시정명령 권한을 부여하고 위반 시 과징금 부과와 서비스 제한 등 제재 근거도 포함했다.

현행 제도가 사후적 행정제재 중심으로 운영되면서 글로벌 플랫폼과 AI 서비스에서 발생하는 유해·불법 콘텐츠 문제에 신속하게 대응하기 어렵다는 지적을 반영한 것이다.

앞서 이 의원은 지난달 국회 과학기술정보방송통신위원회 회의에서도 유튜브와 X 등 플랫폼에서 청소년이 성착취물, 딥페이크 범죄물 등에 노출되는 문제를 지적하며 사전적 규율 필요성을 강조한 바 있다.

이번 입법은 최근 미국에서 메타와 구글을 상대로 제기된 청소년 소셜미디어 중독 관련 소송 흐름과도 맞닿아 있다. 미국 법원 배심원단은 청소년 SNS 중독 소송에서 메타와 구글에 총 600만 달러(약 90억원)를 원고에게 배상하라는 평결을 내렸다.

이 의원은 “아동·청소년 온라인 안전은 더 이상 기업 자율에만 맡길 수 없다”며 “이번 개정안은 ‘아동·청소년 온라인 안전법’의 1단계로, AI 사업자에 우선 책임을 묻기 위한 것”이라고 말했다.

이어 “향후 소셜미디어와 동영상 플랫폼, 커뮤니티 등 플랫폼 전반을 포괄하는 2단계 입법도 추진할 계획”이라며 “현장에서 실질적으로 작동하는 제도를 마련하겠다”고 밝혔다.

그는 “아동·청소년의 안전보다 앞설 수 있는 산업 논리는 없다”며 “국회와 정부가 보다 분명한 기준을 세워야 할 시점”이라고 강조했다.

이소현 (atoz@edaily.co.kr)

정치