美 AI 규제안 두고 전문가들 '격돌'…혁신·안전 사이 '논란'

캘리포니아 주 'SB 1047' 법안…리 교수 '오픈소스 위축' VS 마커스 교수 '대형 AI 리스크'

(지디넷코리아=조이환 기자)미국 캘리포니아 주의 인공지능(AI) 규제법안 'SB 1047'을 둘러싸고 AI 분야의 두 거물인 페이페이 리 교수와 게리 마커스 교수 간의 논쟁이 격화되고 있다. 법안이 AI 혁신을 저해할 것이라는 리 교수의 우려에 마커스 교수가 전면 반박했기 때문이다.

11일 마커스 교수의 블로그에 따르면 캘리포니아 주 의회는 조만간 'SB 1047' 법안을 표결에 부칠 예정이다. 이 법안은 AI 모델의 오용을 방지하기 위해 사이버 공격과 생물학·핵무기 개발에 악용될 수 있는 AI 모델의 사용을 금지하고 통제하기 어려운 모델에 '킬 스위치' 중단 버튼을 의무적으로 설치하도록 하는 내용을 담고 있다.

리 교수는 지난 8일 포춘지에 보낸 공개 서한을 통해 법안이 오픈소스 AI 개발을 크게 위축시키고 학계와 중소기업에 심각한 타격을 줄 수 있다고 주장했다. 또 이 법안이 AI 개발자들에게 지나치게 무거운 법적 책임을 부과해 창의적 연구와 개발 활동을 저해할 수 있다고 경고했다.

美 캘리포니아 AI 규제법안 'SB 1047'을 둘러싸고 페이페이 리 교수와 게리 마커스 교수 간의 논쟁이 격화되고 있다. (사진=달리 제작)

마커스 교수는 이에 대한 답변으로 'SB 1047' 법안은 AI 기술 오용을 막기 위한 최소한의 조치라고 반박했다. 그는 법안의 오픈소스 모델 규제는 제한적인 수준이고 안전 조치는 이미 많은 기업들이 자발적으로 준수하고 있다고 설명했다.

'SB 1047' 법안은 주로 대규모 AI 프로젝트에 적용돼 중소기업이나 스타트업에는 큰 영향을 미치지 않을 것으로 전망된다. 마커스 교수에 따르면 해당 규제는 심지어 빅테크 기업들에게도 감당이 가능한 수준이다.

또 마커스 교수는 다른 산업들과 비교해 AI 규제가 얼마나 부족한지 강조했다. 그는 현재 AI에 대한 규제가 미용실이나 커피숍에 대한 규제보다 약하다고 주장했다. 대형 AI 시스템의 잠재적 위험성을 감안할 때 이는 심각한 문제를 초래할 수 있다.

미국 샌디아 국립 실험실의 얼 보버트 선임연구원은 "혁신이라는 개념은 종종 기술이 개인과 사회에 주는 피해를 정당화하는 수단으로 사용된다"며 "'SB 1047 법안'은 바로 이러한 피해를 방지하려는 시도"라고 강조했다.

조이환 기자(ianyhcho@zdnet.co.kr)