美캘리포니아, 아동 AI규제법 제정…위험 감지되면 부모 알려야

챗GPT 쓰다 사망한 소년 이름 딴 '애덤법'…AI챗봇 탑재 장난감 4년간 금지
SNS 플랫폼에는 16세 미만 이용자에 중독 유발 기능 제공하는 것 금지

(샌프란시스코=연합뉴스) 권영전 특파원 = 실리콘밸리가 있는 미국 캘리포니아주가 인공지능(AI) 챗봇과 사회관계망서비스(SNS)의 아동·청소년 보호 강화를 위한 규제 패키지법을 제정했다.

11일(현지시간) 캘리포니아주에 따르면 개빈 뉴섬 주지사는 아동·청소년 보호를 골자로 한 13개 법안 패키지에 서명했다.

이번에 제정된 법 가운데 가장 핵심은 '애덤법'(Adam's Law)이라는 별칭이 붙은 AI 챗봇 규제법이다.

오픈AI 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 딴 이 법은, AI 챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 프로토콜이 작동하도록 하고 부모에게도 이를 알리도록 의무화했다.

또 기업은 AI 출시 전에 독립적인 아동 안전 감사와 연례 위험 평가를 실시하도록 규정했다.

캘리포니아주는 SNS 플랫폼이 16세 미만 이용자에게 ▲ 무한 스크롤 ▲ 자동 재생 ▲ 이용행태 기반 알고리즘 게시물 배치 등 중독 유발 기능을 제공하는 것도 금지했다.

AI 챗봇을 탑재한 장난감을 제조하거나 판매하는 것은 4년간 금지되며, AI로 만든 아동 성착취물(CSAM)에 대한 처벌 범위도 대폭 확대했다.

뉴섬 주지사는 "기술 혁신이 빨라지면 우리의 보호 조치도 발맞춰 가야 한다"며 "캘리포니아주는 규제되지 않은 기술이 아동을 위험에 빠뜨리는 것을 방관하지 않겠다"고 이번 법 제정의 배경을 설명했다.

comma@yna.co.kr

▶제보는 카톡 okjebo

국제