[팽동현의 테크픽]"혁신 저해" vs "적극 지지"…AI규제법 두고 갈라진 캘리포니아

로이터연합뉴스 자료사진

IT산업 중심지인 미국 실리콘밸리가 법안 하나로 시끄럽다. 인공지능(AI) 규제를 두고 캘리포니아주 정계와 업계에서 갑론을박이 한창이다. 향후 전 세계 관련 법제와 산업 지형에 끼칠 영향이 주목된다.

미국 민주당 소속 스콧 위너 캘리포니아주 상원의원이 발의한 '프론티어 AI 모델을 위한 안전과 보안 혁신 법안(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, 이하 SB 1047)'은 캘리포니아주 의회에서 최종 표결을 앞둔 상태다.

'SB 1047'은 고성능·고위험 AI모델, 즉 생성형AI를 위한 대형언어모델(LLM) 등을 직접 겨냥해 규제하는 점이 특징이다. 클라우드 컴퓨팅 평균 시장가 기준으로 1억달러 이상의 개발비용이 들거나, 10의 26승 플롭스(FLOPS) 이상으로 학습된 AI모델을 주요 규제 대상으로 삼는다.

이런 대규모 AI모델을 구축하는 AI개발사 대상으로 AI안전성 테스트를 의무화하고, AI모델이 잘못된 방향으로 작동하는 경우 비상정지 가능한 안전장치(킬스위치) 마련을 요구한다. AI모델 배포 후 모니터링에 대한 책임도 주어지며, 내부고발자 등을 보호하고자 독립된 제3자 감사로부터 안전관행 평가도 받아야 한다.

대상 개발사가 규정을 준수하지 않을 경우, 특히 지속적인 위협이 발생할 경우 주 법무장관이 소송을 제기할 수 있는 권한을 부여한다. AI시스템이 많은 사람을 사망에 이르게 하거나 5억달러 이상 피해로 이어진 심각한 문제를 유발한 경우 등이다,

이 'SB 1047'은 AI업계 우려를 반영해 주 정부의 감독·처벌 권한을 일부 축소하는 쪽으로 수정됐다. 지난 5월 상원 통과 시에는 아직 피해가 발생하지 않았더라도 규정을 준수하지 않은 AI기업을 처벌할 수 있도록 했지만, 수정안은 AI기술이 공공안전에 실질적인 피해나 임박한 위험을 초래한 경우에만 처벌할 수 있도록 했다. 그럼에도 여전히 거센 반대에 직면해 있다.

주 의회에 보낸 공개서한에서 메타는 "AI 혁신을 촉진해야 할 시기에 이를 저해할 것"이라 지적했고, 구글도 "AI 개발·배포에 있어 세계에서 가장 불리한 관할권 중 하나로 만들 것"이라 주장했다. 생성형AI 선두주자 오픈AI도 최근 침묵을 깨고 제이슨 권 최고전략책임자(CSO) 명의로 "세계적 수준의 엔지니어와 기업가들이 다른 곳으로 떠나게 할 것"이란 입장을 내며 반대 대열에 합류했다.

세계 최대 스타트업 액셀러레이터 와이콤비네이터, 글로벌 벤처캐피털 앤드리슨호로위츠(a16z), IBM이 주도하고 인텔·카카오 등 참여한 'AI얼라이언스', 'AI 대모' 페이페이 리 스탠퍼드대 교수 등도 반대 입장을 표명한 바 있다. 미국 민주당 내에서도 찬성 입장만 있는 게 아니다. 거물인 낸시 펠로시 전 하원의장을 비롯해 캘리포니아주에 기반을 둔 연방의원들 위주로 "의도는 좋지만 정보가 부족하다"며 반대 목소리가 나오고 있다.

반면 'AI 4대 석학' 중 규제론자인 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수는 일찍이 공개 지지 선언을 했고, 게리 마커스 뉴욕대 교수도 최근 페이페이 리 교수의 포춘지 기고에 반박하며 규제 필요성을 강조했다. 또 오픈AI 경쟁사 앤스로픽의 다리오 아모데이 최고경영자(CEO)는 "수정된 SB1047은 그 혜택이 비용보다 더 클 것으로 여겨질 만큼 상당히 개선됐다"면서도 "여전히 우려되거나 모호한 측면이 있다"며 부분적 지지를 밝혔다.

한국지능정보사회진흥원(NIA)의 최근 보고서에 따르면 현재 미국은 연방보다는 주 차원에서 AI규제가 보다 적극적으로 이뤄지고 있다. 고위험 AI 규제 관련 일반법은 콜로라도주가 미국서 최초로 입법했고, 앞서 유타주와 테네시주 등은 특정 시스템이나 이용행위 관련 규제를 마련했다. 코네티컷주도 콜로라드주와 유사한 법안을 마련하고 있다.

'SB1047'이 캘리포니아주 의회에서 8월말 입법 회기 종료 전까지 통과되면 9월말까지 개빈 뉴섬 주지사가 이에 대해 서명하거나 거부권을 행사할 수 있다. 의회의석부터 주지사까지 민주당 텃밭인 캘리포니아주 특성상 현지에선 통과될 가능성이 클 것으로 내다본다. 다만 미국 대선을 앞두고 뉴섬 주지사가 쉽사리 서명할 수 있는 분위기가 아니란 점에서, 또 이곳 특성상 유럽연합(EU) AI법에 이어 세계적인 영향을 끼칠 수 있다는 점에서 그 향방이 주목된다.팽동현기자 dhp@dt.co.kr