실리콘밸리 떨고있나…美캘리포니아주 AI 규제법 통과

주 의회 표결서 찬성 41표, 반대 9표
"공공 이익 보호 위한 역사적 조치"
주 상원 검토 후 주지사에 전달 예정

[이데일리 이소현 기자] 주요 인공지능(AI) 기업들이 포진한 실리콘밸리가 있는 미국 캘리포니아주에서 인공지능(AI) 규제 법안이 통과됐다.

(사진=게티이미지)

28일(현지시간) 블룸버그통신에 따르면 캘리포니아주 AI 규제법 ‘SB1047’이 찬성 41표, 반대 9표로 주 의회를 통과했다.

해당 법안은 민주당 상원의원인 스콧 위너 의원이 발의했으며, 민주당이 약 80%의 좌석을 차지하고 있는 상원에 이어 공화당이 다수인 하원에서도 쉽게 통과됐다.

위너 상원의원은 성명에서 “혁신과 안전은 함께 갈 수 있으며, 캘리포니아가 그 길을 선도하고 있다”며 “이번 표결로 의회는 흥미로운 신기술이 발전함에 따라 공공의 이익을 보호하기 위해 선제적으로 노력하는 정말 역사적인 조처를 했다”고 평가했다.

해당 법안은 개빈 뉴섬 캘리포니아 주지사에게 전달에 앞서 주 상원으로 다시 보내져 검토를 거칠 예정이다. 법안이 처음 제출되었을 때 주 상원에서 먼저 통과되었지만, 이후 주 의회에서 일부 수정했기에 관련 내용을 검토하고 승인할 필요가 있어서다.

AI 규제법 ‘SB1047’ 수정안은 AI 모델을 개발하는 기업이 강력한 AI 기술을 공개하기 전에 반드시 안전성을 테스트하도록 의무화하고 있다. 대규모 AI 시스템이 많은 사람을 사망에 이르게 하거나 5억 달러 이상의 피해를 일으키는 심각한 문제를 가져오지 않도록 ‘합리적인 주의’를 기울이도록 하자는 게 골자다.

또 AI가 인간에게 위해를 끼치면 사람이 가동을 중단시킬 수 있는 장치를 만들어야 하는 등 예방 조처를 하도록 요구한다. 이어 해당 모델이 심각한 위험을 최소화하고 있는지 확인하기 위해 제3자 테스트를 받도록 요구하고 있다. AI 안전을 위한 새로운 기관을 신설하지 않고, 규제 업무를 기존의 캘리포니아주 정부운영 기관에서 담당하기로 했다. 게다가 안전 문제를 공유하고자 하는 AI 회사 직원을 위한 내부 고발자 보호 장치도 마련해야 한다.

법안을 준수하지 않는 기업은 캘리포니아 법무장관으로부터 소송을 당할 수 있다. 캘리포니아주에서 사업을 하는 모든 회사는 본사 소재지에 상관없이 적용되기 때문에 빅테크 기업들 대부분과 많은 AI스타트업들이 규제 대상에 해당한다.

이에 마이크로소프트, 메타, 오픈AI 등 대부분 테크 회사들이 이에 대한 우려와 반대의사를 의회에 표시했다. 특히 전 세계적으로 생성형 인공지능(AI) 열풍을 일으킨 ‘챗GPT’ 개발사 오픈AI는 미국 캘리포니아주 의회가 추진 중인 AI 규제법에 대해 “AI 산업의 혁신에 해를 끼칠 것”이라며 공개적으로 반대했다. 그러면서 이러한 정책은 주 차원이 아닌 연방 차원에서 시행되어야 한다고 주장했다.

그러나 이 법안에 찬성하는 AI 회사들도 있다. 미국 전기차업체 테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 xAI를 설립해 운영 중인 일론 머스크는 “이것은 어려운 결정이고 일부 사람들을 화나게 하겠지만, 모든 것을 고려하면 나는 캘리포니아주가 아마도 ‘SB 1047’ AI 안전 법안을 통과시켜야 한다고 생각한다”고 옹호했다. 안전 지향적이라는 평판을 얻고 있는 오픈AI의 라이벌인 앤스로픽도 수정안 시행한 후 “이익이 비용보다 클 것”이라고 지지했다.

이소현 (atoz@edaily.co.kr)