미 캘리포니아, 아동 AI규제법 제정…위험 감지되면 부모 알려야

▲ 개빈 뉴섬 캘리포니아 주지사

실리콘밸리가 있는 미국 캘리포니아주가 인공지능(AI) 챗봇과 사회관계망서비스(SNS)의 아동·청소년 보호 강화를 위한 규제 패키지법을 제정했습니다.

현지시간 11일 캘리포니아주에 따르면 개빈 뉴섬 주지사는 아동·청소년 보호를 핵심으로 하는 13개 법안 패키지에 서명했습니다.

이번에 제정된 법 가운데 가장 핵심은 '애덤법'(Adam's Law)이라는 별칭이 붙은 AI 챗봇 규제법입니다.

오픈AI 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 딴 이 법은 AI 챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 프로토콜이 작동하도록 하고 부모에게도 이를 알리도록 의무화했습니다.

또 기업은 AI 출시 전에 독립적인 아동 안전 감사와 연례 위험 평가를 실시하도록 규정했습니다.

캘리포니아주는 SNS 플랫폼이 16세 미만 이용자에게 무한 스크롤, 자동 재생, 이용행태 기반 알고리즘 게시물 배치 등 중독 유발 기능을 제공하는 것도 금지했습니다.

AI 챗봇을 탑재한 장난감을 제조하거나 판매하는 것은 4년간 금지되며, AI로 만든 아동 성착취물(CSAM)에 대한 처벌 범위도 대폭 확대했습니다.

뉴섬 주지사는 "기술 혁신이 빨라지면 우리의 보호 조치도 발맞춰 가야 한다"며 "규제 받지 않은 기술이 아동을 위험에 빠뜨리도록 방관하지 않겠다"고 강조했습니다.

(사진=AP, 연합뉴스)

곽상은 기자 2bwithu@sbs.co.kr