美 캘리포니아, AI 규제안 통과 '임박'…빅테크·학계 '긴장'

'SB 1047' 이번 주 통과 예상…"오픈소스 억제해 AI 발전 위축" 우려

(지디넷코리아=조이환 기자)미국 캘리포니아 주 의회가 초강력 인공지능(AI) 규제법안 'SB 1047'을 통과시킬 가능성이 커지면서 실리콘밸리 빅테크 기업들이 긴장하고 있다. 이 법안이 통과되면 AI 혁신과 오픈소스 개발에 거대한 타격을 줄 것으로 예상된다.

8일 월스트리트저널 등 외신에 따르면 캘리포니아 주 하원은 이번 주 'SB 1047' 법안을 표결에 부칠 예정이다. 이 법안은 지난 5월 상원에서 여야가 합의해 통과됐기에 하원에서도 무난히 통과될 것으로 보인다.

SB 1047의 주요 내용은 둘로 나뉜다. 우선 5억 달러(약 6천890억원) 넘는 피해 발생 가능성이 있는 사이버 보안 공격을 시행하거나 생물학·핵무기를 개발할 수 있는 능력의 AI 모델 개발을 금지하는 것이다. 또 AI 개발자들은 주기적으로 안전 테스트 결과를 보고하고 통제가 어려울 때는 이를 중단할 '킬 스위치'를 도입해야 한다.

미국 캘리포니아 주 의회가 초강력 인공지능(AI) 규제법안 'SB 1047'을 통과시킬 것으로 점쳐진다. (사진=오픈AI 달리3)

이 법안은 훈련에 1억 달러 이상(약 1천376억원)의 비용이 드는 모델에 적용되며 실리콘밸리의 주요 AI 기업들은 물론이고 중소기업과 스타트업들도 이에 해당된다.

AI 업계는 이 법안에 강하게 반발하고 있다. 특히 오픈소스 모델을 사용하는 기업의 반발이 특히 심한 것으로 전해졌다. 이들 업체가 사용자의 제품 사용 용도를 예측하는 것은 불가능하기 때문이다. 이에 따라 'SB 1047'이 발효될 경우에는 AI 오픈소스 생태계가 극도로 위축될 것으로 예상된다.

'AI의 대모'로 불리는 페이페이 리 스탠포드 대학교 교수는 "이 법안은 태생적으로 오픈소스 개발을 억제할 것"이라며 "개발 커뮤니티와 학계에 큰 피해를 줄 수 밖에 없다"고 말했다.

리 교수의 말처럼 'SB 1047'의 통과는 AI 연구 및 교육 환경에도 부정적인 영향을 미칠 것으로 예측된다. 학생들과 연구자들은 이미 기업에 비해 데이터와 컴퓨팅 자원 측면에서 불리한 상황에 놓여있기 때문이다. 이 상황에서 개발자의 법적 부담이 증가하고 오픈소스가 사실상 제한될 경우 학계는 큰 타격을 받을 수 밖에 없다.

현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정되어 있지만 캘리포니아 주는 그 중 가장 적극적으로 AI 규제를 추진하고 있다. 실리콘밸리가 캘리포니아에 위치해 미국 기술혁신의 상당수가 이 지역에서 진행됨을 감안하면 그 파급력은 엄청나다.

한 테크 업계 관계자는 "SB 1047 법안은 AI 혁신을 저해하고 학계와 중소기업에 큰 타격을 줄 것"이라며 "캘리포니아 주 의회는 이 법안의 부작용을 고려하고 신중히 검토해야 한다"고 강조했다.

조이환 기자(ianyhcho@zdnet.co.kr)