‘AI개발 규제’ 캘리포니아 법안 논란… “혁신 저해, 경쟁력 약화”

오픈AI 로고. 로이터 연합뉴스

안전성과 투명성에 대한 과도한 규정으로 기업 부담
AI업계, 뉴섬 주지사 거부권 행사 점치지만 우려 제기
AI 규제 필요성에는 찬성, 하지만 수준 면밀 검토해야
연방 규제법은 부재, 트럼프 행정부 주차원 법안 반대

지난 13일(현지시간) 캘리포니아 의회를 통과한 AI 안전법안 ‘SB 53’을 놓고 논란이 일고 있다.

테크크런치 보도에 따르면 법안은 일정 규모 이상의 AI개발 기업에 안전성과 투명성을 확보하도록 규정하고 있다. AI업계는 개빈 뉴섬 캘리포니아 주지사가 거부권을 행사할 것으로 보고 있지만, 우려를 제기하고 있다.

특히 AI 개발의 허브 역할을 하는 실리콘밸리 기업, 벤처캐피탈(VC), 로비단체들의 반발이 거세다.

대표 AI 기업이랄 수 있는 오픈AI는 최근 뉴섬 주지사에게 보낸 서한에서 ‘SB 53’을 구체적으로 언급하지 않았지만 ‘(규제의)중복 및 불일치’를 피하기 위해 기업이 연방 또는 유럽 표준을 충족하는 한 주 전체 안전 규칙을 준수하는 것으로 간주돼야 한다고 주장했다.

결국은 캘리포니아주가 별도로 법안을 만들 필요가 없다는 맥락이다.

SB 53 법안은 특정 기준 이상의 AI 시스템을 개발하는 기업에게 안전 프레임워크 공개와 위험평가보고서 제출을 의무화하는 것이 주요 내용이다. AI의 안전성을 강화하고 투명성을 높이는 데 초점을 맞추고 있다.

연 매출 5억 달러 이상으로 방대한 컴퓨팅 자원을 사용하는 ‘프론티어 AI’ 개발 기업이 적용 대상이다. 오픈AI, 앤스로픽, 구글, xAI 등 대형 AI 기업들을 겨냥한 것이다.

구체적인 내용을 보면 대형 AI 기업들이 재앙적 위험, 이를테면 생물학 무기 제작이나 사이버 공격 등을 관리하고 완화하기 위한 안전 프레임워크를 개발하고 공개하도록 함으로써 AI의 안전성을 확보한다는 것이다.

​ 새로운 AI 모델을 배포하기 전에 위험 평가 및 대응 방안에 대한 요약 보고서를 주 정부에 제출하는 것도 규정하고 있다. 투명성 보고서 제출 의무다. 당연히 사고 보고 의무도 주어진다. 중대한 안전 사고 발생 시 15일 내에 주 정부에 보고해야 한다.

​ 내부 고발자 보호의무도 규정하고 있다. 공공의 건강과 안전에 대한 재앙적 위험을 방지하기 위해 내부 고발자에 대한 명확한 보호 규정을 두어야 한다.

이에 대해 AI 기업들은 AI 규제 필요성은 대부분 동의하면서도 지나친 간섭과 과도한 의무로 인해 자율과 혁신이 저해된다고 주장하고 있다. 연방 규제와의 충돌 문제도 쟁점이 되고 있다.

법안 찬성자들은 AI가 초래할 수 있는 잠재적 위험을 사전에 예방하고 관리하기 위해 필수적인 조치라는 입장이다.

대형 AI 기업의 ‘블랙박스’와 같은 개발 과정을 투명하게 공개하도록 투명성을 강화하는 것도 대중의 신뢰를 얻고 책임 있는 기술 개발을 유도할 수 있다는 점에서 환영받고 있다.

​ 현재 AI에 대한 연방 규제가 부재하다는 이유도 법안 찬성의 배경이 되고 있다. 연방 차원의 통일된 AI 규제가 없는 상황에서 AI 기술 발전의 중심지인 캘리포니아주가 선제적으로 규제 가이드라인을 제시해야 한다는 주장이다.

​ 반대 논리도 만만치않다. 과도한 규제가 AI 스타트업과 소규모 기업의 혁신을 저해할 수 있다는 우려다. 비록 SB 53 법안이 대형 기업에 초점을 맞추고 있지만, 규제 기준이 모호하거나 부담이 될 수 있다는 지적이다. ​

법적 책임의 모호성도 지적된다. AI 모델이 초래한 결과에 대한 법적 책임을 누구에게 물을 것인지, 그리고 어떤 기준으로 위험을 평가할 것인지에 대한 부분이 여전히 불분명하다는 것이다.

​ 아직 규제가 없는 연방 정부와 충돌도 반대논리다. 트럼프 행정부 등은 주차원의 독자적인 AI 규제가 연방 정부의 권한을 침해하고, 미국의 기술 경쟁력을 약화시킬 수 있다고 주장하며 주 차원의 규제를 반대해왔다.

이규화 기자 david@dt.co.kr