AI기술 안전검증 의무화… 실리콘밸리 ‘발칵’

캘리포니아주 하원 통과
사망·5억弗 넘는 피해 땐 고소
통제불능 대비 ‘킬스위치’ 도입
본사 상관없이 모든 기업 적용
MS·메타 등 빅테크 극렬 반발

인공지능(AI) 열풍의 중심지 역할을 해온 미국 캘리포니아주의 의회가 관련 업계의 강한 반대에도 AI 규제 법안을 통과시켰다.

28일(현지시간) 블룸버그통신에 따르면 ‘SB 1047’이라 불리는 AI 규제법안이 이날 캘리포니아주 주의회에서 찬성 41대 반대 9로 통과돼 개빈 뉴섬 주지사의 승인만 남겨놓게 됐다.

사진=AP연합뉴스

이 법안은 AI 기술이 심각한 피해를 일으키지 않도록 확인하는 의무를 개발사에 부여하는 내용을 담고 있다. AI 기업들은 대규모 언어 모델 훈련에 1억달러 이상 들어간 경우 등에는 안전성 테스트를 해야 한다. AI 시스템이 다수 사망이나 5억달러 이상의 재산 피해와 같은 심각한 문제를 일으키지 않도록 합리적 주의를 기울이도록 하는 의무도 도입했다. 이와 함께 기업들은 AI의 통제가 어려울 때 시스템의 작동을 멈추게 하는 ‘킬스위치’(kill switch)를 도입해야 한다.

기업이 규정을 지키지 않으면 주 법무장관이 소송을 제기할 수 있다. 캘리포니아주에서 사업을 하는 모든 회사는 본사 소재지에 상관없이 이 법이 적용되므로 대부분 AI 개발업체가 대상이 된다.

민주당 스콧 위너 캘리포니아주 상원의원이 발의해 지난 5월 주 상원을 통과한 이 법률에 대해 마이크로소프트(MS), 메타와 챗GPT 운영사인 오픈AI 등 거대정보기술(빅테크)기업들과 스타트업 등 관련 업계는 격렬하게 반대해왔다. 이들은 이 법안이 AI 기술 발전을 이끌어온 캘리포니아주의 혁신 속도를 늦추는 효과를 낼 것이라며 이런 정책의 추진은 연방 정부 차원에서 해야 한다고 주장했다. 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝혔다.

반면 AI 스타트업 xAI를 운영하는 일론 머스크는 예상과 달리 지지 입장을 내놨다. 머스크는 26일 엑스(X·옛 트위터)에 “나는 캘리포니아주가 SB 1047 법안을 통과시켜야 한다고 생각한다”면서 “우리가 공공에 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것과 마찬가지”라고 적었다.

블룸버그통신은 법안에 대한 찬반이 확연히 갈리는 만큼 뉴섬 주지사가 최종 서명할 때까지 찬반 측의 공방이 치열하게 이어질 것으로 보인다고 전망했다.

서필웅 기자 seoseo@segye.com