"AI도 안전검사 하라" 규제 캘리포니아 하원 통과…엇갈린 업계 반응

LLM 훈련에 1억 달러 이상 투입된 AI 모델 출시 전 테러, 무기개발 등 돌발행동 가능성 검증해야

챗GPT 소개 화면./로이터=뉴스1(PA 제공)

실리콘 밸리가 위치한 캘리포니아 주 하원에서 대규모 자본이 투입된 인공지능(AI) 모델은 출시 전 안전검사를 받아야 한다는 내용의 법안이 통과됐다.

뉴욕타임스(NYT), 악시오스 등 보도에 따르면 캘리포니아 주 하원은 28일(현지시간) 표결에서 AI 규제법안 'SB 1047'을 찬성 41대 반대 9로 통과시켰다.

이 법안은 민주당 스콧 위너 캘리포니아 주 상원의원이 발의해 지난 5월 상원에서 통과됐다. 캘리포니아 주 상원에서 추가 절차를 거친 뒤 개빈 뉴섬 주지사에게 송부된다. 뉴섬 주지사는 다음달 30일까지 법안 서명 여부를 결정해야 한다.

언어처리모델(LLM)을 통한 훈련에 1억 달러 이상이 투입된 AI는 시장 출시 전 안전검사를 실시하고, 위험방지책을 공개해야 한다는 게 법안의 골자다. AI가 인간 몰래 사이버 테러를 일으키거나 생화학 무기를 개발하는 등 행위를 할 가능성은 없는지 사전에 검증하라는 취지다.

AP통신에 따르면 훈련에 1억 달러 이상 자본이 투입된 AI는 아직 없다. 법안이 주지사 서명을 받더라도 즉시 적용 대상이 되는 AI는 당분간 없을 것으로 보인다.

그러나 AI 산업 관련 단체들은 기술을 억압하는 규제라고 비판했다. 실리콘 밸리 산업단체 '챔버 오브 프로그레스'는 "이 법안은 공상과학과 환상에 기반했다"고 주장했다. 이 단체에서 수석 기술 책임자를 맡고 있는 토드 오보일은 "현실세계보다 영화 '터미네이터'를 본딴 법안"이라면서 "비현실적인 시나리오 때문에 캘리포니아 경제의 주요 부문을 억제해서는 안 된다"고 했다.

AI업계 반응은 엇갈린다. AI업계 선두주자로 꼽히는 오픈AI, 메타, 구글은 법안 반대 입장이다. 반면 후발주자로 꼽히는 스타트업 앤트로픽, 테슬라는 법안에 찬성했다. 앤트로픽은 뉴섬 주지사에게 보낸 서한에서 "이익보다 비용이 클 것"이라고 했다. 일론 머스크 테슬라 CEO는 지난 26일 엑스 게시글에서 이 법안을 언급, "모든 제품, 기술은 잠재적으로 위험하다"면서 "나는 지난 20년 간 AI 규제를 옹호했다"고 했다.

악시오스는 머스크가 지난해 AI 개발을 6개얼 동안 전부 중단해야 한다고 주장한 사실을 조명하면서 그가 법안 찬성 입장을 낸 데에는 다른 속내가 깔려 있을 수 있다고 분석했다. 업계 선두주자들을 겨냥한 규제가 통과된다면 기술 격차를 좁히는 데 도움이 될 것이라고 판단했을 수 있다는 취지다.

이날 표결 후 위너 의원은 "혁신과 안전은 함께할 수 있는 가치"라면서 "캘리포니아가 그 선두에 설 것"이라고 했다. 반면 낸시 펠로시 민주당 하원의원과 런던 브리드 샌프란시스코 시장은 공개적으로 법안에 반대했다.

김종훈 기자 ninachum24@mt.co.kr