미국 캘리포니아, 아동 AI 규제법 제정…위험 감지 시 부모에게 알리도록

AI 챗봇 탑재 장난감 4년간 금지…SNS 플랫폼의 중독 유발 기능도 제한
뉴섬 주지사 "기술 혁신이 빨라지면 우리 보호 조치도 발맞춰 가야 한다"

미국 캘리포니아주가 아동·청소년의 인공지능(AI) 챗봇 사용을 제한하는 법을 제정했습니다.

현지 시간 11일 캘리포니아주에 따르면, 개빈 뉴섬 주지사는 아동·청소년 보호를 골자로 한 13개 법안 패키지에 서명했습니다.

이번에 제정된 법 가운데 가장 핵심은 '애덤법'(Adam's Law)이라는 별칭이 붙은 AI 챗봇 규제법입니다.

오픈AI 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 딴 이 법은, AI 챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 프로토콜이 작동하도록 하고 부모에게도 이를 알리도록 의무화했습니다.

또 기업은 AI 출시 전에 독립적인 아동 안전 감사와 연례 위험 평가를 실시하도록 규정했습니다.

캘리포니아주는 사회관계망서비스(SNS) 플랫폼이 16세 미만 이용자에게 ▲ 무한 스크롤 ▲ 자동 재생 ▲ 이용 행태 기반 알고리즘 게시물 배치 등 중독 유발 기능을 제공하는 것도 금지했습니다.

AI 챗봇을 탑재한 장난감을 제조하거나 판매하는 것은 4년간 금지되며, AI로 만든 아동 성 착취물(CSAM)에 대한 처벌 범위도 대폭 확대했습니다.

뉴섬 주지사는 "기술 혁신이 빨라지면 우리의 보호 조치도 발맞춰 가야 한다"며 "캘리포니아주는 규제되지 않은 기술이 아동을 위험에 빠뜨리는 것을 방관하지 않겠다"고 이번 법 제정의 배경을 설명했습니다.

[현서경 디지털뉴스부 인턴기자 seokyung0322@gmail.com]

MBN