“실리콘밸리 반발” 캘리포니아 AI 법안이 뭐길래

이미지 생성 AI 모델 달리3가 생성한 AI 관련 이미지

주요 인공지능(AI) 기업의 본거지 실리콘밸리가 있는 미국 캘리포니아주 의회가 AI 규제 법안을 입법 중인 가운데 기업들이 법안을 반대하는 데다 AI 석학 의견도 엇갈리고 있다. 해당 법안이 통과되면 향후 미국 전역과 각국 정부의 AI 규제에 영향을 미칠 가능성이 높다.

19일 뉴욕타임스 등에 따르면 캘리포니아주 하원 예산위원회는 지난 15일(현지시간) ‘첨단 AI 시스템을 위한 안전과 보안 혁신법안’에 대한 수정안을 통과시켰다. 거대 AI 모델이 인류에게 심각한 피해를 입히는 데 악용되는 것을 막는 게 목적이다.

수정안은 거대 AI 시스템을 이용해 대규모 인명 피해 또는 5억달러 이상의 물적 피해가 발생한 경우 등을 ‘중대한 피해’로 본다. 이를 방지하기 위해 개발사는 AI 기술을 공개하기 전 철저한 안전 검증 과정을 거치고, 관련 사항을 주정부 기관에 보고해야 한다. 주 법무장관은 해당 기술이 중대한 피해를 초래하면 개발사를 상대로 소송을 제기할 수 있다.

법안 적용 대상은 개발 비용이 1억달러를 넘고 일정량의 컴퓨팅 파워를 사용해 훈련한 AI 시스템이다. 구글, 메타, 오픈AI, 앤스로픽 등 캘리포니아주에 기반을 두고 있거나 이 지역에서 사업을 하는 회사들이 영향을 받게 된다. 앞서 구글과 메타는 법안을 발의한 스콧 위너 민주당 상원의원에게 우려를 표명하는 서한을 보낸 것으로 알려졌다.

수정안은 지난 5월 상원을 통과한 원래 법안을 완화한 것이다. 기존에는 피해가 발생하지 않았더라도 안전 규정을 준수하지 않은 기업을 처벌할 수 있게 했다. 수정안은 공공안전에 실질적인 피해나 임박한 위험을 초래하지 않은 한 처벌이 어렵도록 손봤다.

또 오픈소스 모델을 미세조정한 경우 조정 비용이 1000만달러를 넘어야 법안을 적용할 수 있게 했다. 자유롭게 수정·재배포할 수 있는 모델을 개발하고 응용하는 오픈소스 생태계가 축소될 수 있다는 업계의 반발을 고려한 조치다.

하지만 업계는 수정안도 달가워하지 않고 있다. 여전히 AI 모델이 악용될 수 있는 위험에 대한 책임을 개발사에 묻고 있어서다. AI 규제는 주의회가 아니라 연방 차원의 문제라는 비판도 나온다.

AI 석학들도 대립각을 세우고 있다. 제프리 힌튼 토론토대 교수, 요수아 벤지오 캐나다 몬트리올대 교수 등은 “기술을 효과적으로 규제하기 위한 최소한의 조치”라며 법안을 지지했다. 반면 얀 르쿤 뉴욕대 교수, 페이페이 리 스탠퍼드대 교수 등은 “혁신을 억제할 것”이라며 반대 의사를 밝혔다.

만약 민주당이 다수당인 주의회가 이달 말까지 법안을 통과시킨다면, 공은 가빈 뉴섬 주지사에게 넘어간다. 그의 지지 여부는 불투명하다. 지난 16일 낸시 펠로시 전 연방 하원의장이 반대 성명을 내는 등 민주당 내에서도 엇박자를 내고 있다. 법안을 발의한 위너 의원은 “연방의회가 강력한 AI 안전법을 통과시킬 수 있을 때까지 캘리포니아는 혁신을 촉진하는 동시에 대중을 보호하는 정책을 계속 주도해야 한다”고 맞섰다.

노도현 기자 hyunee@kyunghyang.com