논쟁 부른 캘리포니아 AI 규제법, 주지사 거부권 행사로 결국 무산

개빈 뉴섬 캘리포니아 주지사./AP 연합뉴스

인공지능(AI) 개발자 및 개발업체에 무거운 책임을 부과하는 것을 골자로 한 캘리포니아 AI규제법이 주지사의 거부권 행사로 입법이 무산되게 됐다. AI기술의 본거지로 꼽히는 캘리포니아의 AI법은 미국 및 글로벌 AI 규제의 초석이 될 것으로 주목을 받았지만, 업계의 강렬한 반대 등으로 멈춰서게 된 것이다.

29일 월스트리트저널(WSJ) 등 외신에 따르면 개빈 뉴섬 캘리포니아 주지사는 주 AI법안인 ‘SB 1047′에 거부권을 행사했다. 뉴섬 주지사는 해당 법안이 가장 크고 비싼 AI모델에만 적용되어 한계가 있다고 지적하며, 저명 AI학자인 페이페이 리 스탠퍼드대 교수 등과 함께 새로운 법안을 추진하고 있다고 했다. 뉴욕타임스는 “이 법안을 폐기하기로 한 뉴섬 주지사의 결정은 이 법안을 추진해온 일부 기술 전문가와 학자들의 비판을 불어일으킬 것”이라고 평가했다. AI의 대부로 불리는 제프리 힌튼 토론토대 교수, 요수아 벤지오 몬트리올대 교수 등이 이 법안을 지지해왔다.

SB 1047는 AI모델이 ‘재앙적 피해’를 일으킬 위험을 줄이기 위해 개발자에게 배포 전 안전 테스트를 의무화하고, 5억 달러 이상의 피해 또는 사망 사고를 일으키는 경우 개발업체가 책임을 지도록 규정했다. 또 개발 업체에 위급시 AI를 셧다운 시킬 수 있는 ‘킬러 버튼’을 구비할 것을 요구하기도 했다. 다만 이 법은 훈련 비용이 1억 달러가 넘는 고성능 AI모델에 적용된다. 해당 법은 앞서 캘리포니아 상원과 하원에서 통과됐고, 주지사 서명만 남아 있는 상태였다.

그 동안 메타, 구글, 마이크로소프트(MS) 등 주요 AI 업체들은 주지사 등 관계자에게 SB 1047을 반대하는 입장을 피력해왔다. 오픈AI는 해당 법안이 AI분야의 글로벌 리더로서 캘리포니아의 지위를 위협할 것이라 지적하며 “캘리포니아에 있는 세계적 수준의 엔지니어와 기업가들이 더 큰 기회를 찾아 다른 곳으로 떠나게 할 것”이라고 쓴 편지를 주지사에게 보내기도했다. 실리콘밸리의 유명 벤처캐피털(VC)인 앤드리슨 호로비츠역시 “이 법안이 겉보기엔 뭔가 있어보이지만, 실질적인 내용은 없다”고 지적하기도 했다.

AI관련 규제법 중 가장 주목 받았던 SB 1047이 무산되며, 관련 연방법을 제정해야한다는 목소리도 더욱 커질 것으로 보인다. 테크 업계 관계자는 “그 동안 워싱턴에서는 AI 규제법 추진이 더뎌왔고, 각 주가 알아서 규제법을 마련해온 상태”라며 “캘리포니아 규제법이 무산되면서 더 많은 시선이 워싱턴으로 쏠릴 것”이라고 했다.

다만 뉴섬 주지사는 이날 사람의 두뇌에 대한 데이터도 민감한 개인정보에 포함된다는 개인정보 보호법 개정안에 서명했다. 이 법안은 두뇌 등 ‘신경 데이터’를 생체 인식 정보인 얼굴 이미지, 유전자, 지문 등 ‘민감 데이터’와 동일하게 보고 보호하도록 규정하고 있다. 명상이나 집중력 향상, 우울증 치료 등 문제를 해결하려는 기기들의 개발이 진행되며 개인의 두뇌 정보가 오남용될 가능성이 커졌기 때문이다. 메타·애플 등 빅테크가 방대한 뇌신경 정보를 수집할 수 있는 장치를 개발중인 만큼, 이 같은 법안의 시행은 이른바 ‘건강 기기’ 난개발에 제동을 걸 것이라는 평가가 나온다.