“우리 애가 어떻게 이런 짓을” 경악에…속속 구축되는 ‘디지털 안전망’

유튜브 ‘AI 연령확인’ 틱톡 ‘부모알림’
온라인 공간서 ‘미성년 보호’ 최우선

[사진 = 연합뉴스]

글로벌 콘텐츠 플랫폼이 미성년자 보호를 목적으로 인공지능(AI)을 도입하고 보호자 확인 절차를 강화하고 있다. 미성년자가 유해한 콘텐츠에 접근하지 못하도록 제한하고 온라인 성착취 범죄에 연루되지 않도록 안전 정책 시행에 나선 것이다.

3일 정보기술(IT)업계에 따르면 알파벳은 최근 동영상 검색 내역과 시청하는 콘텐츠 범주, 유튜브 계정 사용 시간 등 다양한 신호를 통해 이용자의 연령을 추정하는 데 AI를 활용하겠다고 예고했다.

이용자가 18세 미만 미성년자로 판별될 경우 청소년 계정에 대한 표준 보호 장치를 자동으로 활성화할 방침이다. 광고 노출 알고리즘이 바뀌고 주기적으로 휴식 알림을 보내고 일부 콘텐츠에 대한 추천이 중단된다.

이용자 연령을 AI가 잘못 판단했을 경우에는 유튜브 고객센터 문의하기를 통해 신분증이나 신용카드, 최근 사진 등을 업로드하는 방식으로 소명할 수 있다. 이러한 조치는 오는 13일부터 단계적으로 적용된다.

틱톡도 마찬가지다. 틱톡은 지난달 30일 온라인 브리핑을 열고 이용자의 안전한 경험을 보장하기 위한 기능과 정책을 공개했다. 틱톡은 안전 부문에 해마다 20억달러(약 2조7000억원)를 투자하고 세이프티 페어링 기능을 고도화했다.

세이프티 페어링은 미성년 이용자의 계정 활동을 보호자가 실시간으로 확인할 수 있는 기능이다. 자녀가 게시하거나 시청하는 콘텐츠, 다운로드 허용 여부, 팔로잉·팔로워 목록, 관심 있는 주제, 신고한 콘텐츠 등을 관리할 수 있기에 잠재적 위험으로부터 자녀 보호가 가능할 것으로 기대된다.

아담 프레서 틱톡 글로벌 총괄은 “창작자와 이용자가 플랫폼 환경이 안전하다고 신뢰할 때 창의성을 발휘할 수 있다”며 “안전은 전사가 중요시하는 우선순위 중 하나로, 안전을 확보하기 위해서는 일관되고 신중하게 설계된 시스템이 필요하고 지속적으로 안전 기능을 고도화하겠다”고 발언했다.

미국·호주·유럽까지…전 세계로 번지는 플랫폼 규제 움직임

[사진 = 챗GPT]

미성년자를 유해한 콘텐츠로부터 보호하기 위한 국가적 노력도 지속되고 있다. 미국은 미성년자의 계정을 보호자의 계정과 연동하고 모바일 기기에서 애플리케이션을 설치할 때 보호자의 승인이 선행돼야 한다는 내용의 법안을 통과시켰다. 이 법안은 내년 1월 1일부터 발효된다.

블룸버그통신은 팀 쿡 애플 최고경영자(CEO)가 애벗 미국 텍사스 주지사에게 연락해 이 법안이 개인의 자유와 사생활을 침해한다고 주장했지만 결국 저지에 실패했다고 보도했다. 주정부뿐만 아니라 연방정부에서도 유사한 법안이 발의됐다.

나아가 호주는 올해 말부터 16세 미만 어린이의 사회관계망서비스(SNS) 사용을 전면 금지한다. 유튜브, 인스타그램, 스냅챗, 틱톡, 엑스 등을 포함한 모든 SNS 계정 생성이 불가능해진다. 16세 미만 어린이의 계정을 생성해 주는 플랫폼에게는 최대 3220만달러(약 445억원)의 벌금 폭탄이 떨어진다.

애니카 웰스 호주 통신부 장관은 “호주 아동 10명 중 4명이 유튜브에서 유해 콘텐츠를 본 적이 있다”며 “SNS의 필요성은 공감하지만 아동을 노리는 포식성 알고리즘은 용납할 수 없다”고 덧붙였다.

유럽연합(EU)은 지난 5월 대형 성인 콘텐츠 유통 플랫폼들을 대상으로 디지털서비스법(DSA) 위반 조사에 착수했다. 18세 이상이냐는 질문에 맞다는 버튼 하나만 누르면 검증 절차 없이 플랫폼 이용할 수 있기에 사실상 무의미하다는 이유에서다.

DSA는 온라인상에서 허위정보와 불법 콘텐츠 확산을 막기 위해 시행됐다. 월 이용자 수가 4500만명이 넘는 플랫폼에게 적용된다. 위반 시 전 세계 연간 매출액의 최대 6%에 해당하는 과징금을 부과한다. 최악의 경우 유럽시장에서 퇴출당할 수도 있다.