“16세 미만 인스타 금지”… 캐나다도 SNS 브레이크

■ 각국 디지털 안전법안 발의
호주·영국 이어 계정개설 금지
유해한 콘텐츠로부터 아동보호
생성형 인공지능 서비스도 규제
안전 장치 입증해야 예외 허용

캐나다 정부가 호주, 영국 등에 이어 16세 미만 아동·청소년의 SNS 사용을 사실상 금지하는 법안을 추진하고 나섰다. 해당 법안에는 성인뿐 아니라 학생들 사이에서도 보편화되고 있는 생성형 인공지능(AI) 서비스에 대한 규제도 포함됐다. 이 같은 AI 서비스가 유해한 콘텐츠를 전달할 위험이 있을 뿐 아니라 사용자가 자신이나 타인을 해치려는 상황에도 제대로 당국에 신고를 하지 않는다는 이유에서다.

10일(현지시간) 로이터, AFP통신 등 외신에 따르면 캐나다 문화부는 “아동은 아동 성 착취·사이버 괴롭힘·자해·정신 건강 문제 등 온라인 유해 콘텐츠에 매우 취약하다”며 이날 16세 미만의 SNS 계정 개설을 금지하는 내용을 담은 디지털 안전법안을 발의했다. 법안에 따르면 기업이 아동을 위한 충분한 안전장치를 마련했음을 입증하는 경우에만 예외가 허용된다. SNS 서비스 및 기능 설계 시 기업이 아동 안전을 최우선으로 고려하고 특정 콘텐츠 및 고위험 상호작용에 대한 아동 노출을 줄이기 위한 조치를 하도록 하는 조처도 법안에 포함됐다.

이번 법안은 생성형 AI 서비스에 대한 규제도 담고 있다. 서비스 제공 기업은 의무적으로 생성형 AI가 유해한 콘텐츠를 전달할 위험을 완화해야 하며 사용자가 자신이나 타인을 해치려는 경우 등 위기 상황에서의 신고기준도 확보해야 한다. 캐나다 문화부는 “피해가 발생한 후에 대응하는 법률은 존재하지만 온라인 서비스가 피해를 예방하도록 의무화하는 법률은 매우 미흡하다”며 “이번 법안은 SNS와 AI 관련 피해 발생 이전에 이를 해결할 책임을 (기업에) 지도록 해 이 같은 상황을 바꾸고자 한다”고 설명했다.

실제 캐나다에서는 지난 2월 브리티시컬럼비아주의 소도시 텀블러리지에서 발생한 총기 난사 사건으로 생성형 AI 서비스의 유해성에 대한 논란이 이어져 왔다. 용의자가 범행 전 오픈AI의 챗GPT에 여러 차례 총기 폭력 관련 시나리오를 올렸지만 오픈AI는 이를 확인하고도 당국에 알리지 않았고 결국 참사로 이어졌다. 참사 유가족들은 이에 오픈AI를 대상으로 안전 관행 개선 명령을 요구하는 소송을 제기한 바 있다. 다만 캐나다 정부 관계자들은 해당 법안이 통과되기까지는 1년이 걸릴 수 있고 집행을 위한 디지털 규제기관을 설립하는 데는 18개월이 소요될 수 있다고 밝혔다.

한편 아동을 대상으로 한 SNS 규제는 세계 곳곳에서 이어지고 있다. 호주는 지난해 12월 세계 최초로 16세 미만의 SNS 계정 접근을 차단했고 유럽에서도 그리스, 영국, 오스트리아 등 10여 개 나라가 SNS 이용 최소 연령을 13~16세 사이로 설정하는 법안을 추진하고 있다. 영국 BBC는 오는 16~17일 프랑스 에비앙에서 열리는 주요 7개국(G7) 정상회의에 참석하는 정상들 역시 AI와 아동을 대상으로 한 온라인 유해 행위 방지 대책에 관한 논의를 하고 성명을 발표할 것이라고 전망했다.

박상훈 기자