'SB 1047' 이 법안에 AI 빅테크 떨고있다…EU 이어 미국까지?[팩플]

미국 캘리포니아주의 인공지능(AI) 기술 규제 법안이 실리콘밸리를 흔들고 있다. 유럽연합(EU)에서 시작된 AI 규제 바람이 미국에서도 불기 시작하는 모양새다.

로이터=연합뉴스

━

무슨 일이야

28일(현지시간) 블룸버그 등 외신에 따르면 캘리포니아주 의회는 AI 안전 법안으로 불리는 ‘SB 1047’을 찬성 41표, 반대 9표로 통과시켰다. 법안은 주 상원으로 보내 검토를 거친 다음, 캘리포니아 주지사에게 전달될 예정이다.

법안을 발의한 스콧 위너 민주당 상원의원은 대표적인 AI 규제론자인 제프리 힌튼 교수와 요슈아 벤지오 교수를 언급했다. 그는 “AI 분야 전문가들은 적절한 예방 조치를 취하지 않을 경우 중요한 인프라에 대한 위험, 사이버 공격, 새로운 생물학적 무기의 생성 등 심각한 결과를 초래할 수 있다는 우려를 표명했다”고 법안 취지를 설명했다.

━

SB 1047, 그게 뭔데?

안전 책임 의무화: 법안은 우선 개발 비용인 1억 달러(약 1300억원)가 넘는 거대언어모델(LLM)에 대한 안전 테스트를 의무화하는 내용을 담고 있다. 안전 테스트는 제3자가 진행해야 한다. 만약 AI 시스템이 많은 사람을 사망에 이르게 하거나, 5억 달러 이상의 피해를 일으키는 심각한 문제를 만들면 개발사가 책임져야 한다. 오픈소스 모델을 미세조정(파인튜닝)해 제작한 모델에 문제가 생기면, 원래 개발사도 책임지게 된다. 필요시 AI 모델을 즉시 강제로 중지할 수 있는 ‘킬 스위치’도 설치해야 한다는 규정도 담겨있다. AI 안전 문제에 대해 공개하려는 ‘내부고발자’에 대한 보호 내용도 포함됐다.
안 지키면 소송: 법안을 준수하지 않는 기업은 캘리포니아 법무장관으로부터 민사소송을 당할 수 있다. 본사 소재지에 상관없이 캘리포니아주에서 사업하는 모든 회사가 적용 대상이다. 이 때문에 실리콘밸리에서 사업을 영위하는 빅테크와 AI 스타트업들이 규제 대상에 해당한다.

━

이게 왜 중요해

EU에서 시작된 AI 규제 바람이 미국에서도 거세게 불기 시작했다. 딥페이크 등 AI의 어두운 측면이 드러나면서 규제를 요구하는 목소리도 커지고 있는 것. EU는 5월 세계 최초로 AI 기업과 기술을 포괄적으로 규제하는 ‘AI법’을 통과시켰다. 미국 내에서도 플로리다주, 뉴욕주 등이 AI 규제 법안을 추진하거나 입법한 바 있지만 이렇게 포괄적이고 강력한 규제 법안을 내놓은 것은 캘리포니아주가 처음이다.

━

빅테크 입장은

이 법안에 대해 미국 테크 기업들의 반응은 엇갈리고 있다.

로이터=연합뉴스

기술 혁신 막는다: 오픈AI, 메타 등은 AI 개발을 어렵게 할 것이라며 반대했다. 특히 오픈AI는 공개 서한을 통해 “주정부가 아닌 연방정부가 AI를 규제해야 한다”고 주장했다. 실리콘밸리 대표 벤처캐피털(VC)인 앤드리슨호로위츠(a16z)도 “스타트업의 성장을 저해한다”며 반대했다. 법안이 통과되자 구글, 애플, 아마존 등 빅테크를 대표하는 단체인 ‘챔버 오브 프로그레스’도 “캘리포니아의 혁신 경제에 피해를 입힌다”며 이 법안에 주지사가 거부권을 행사할 것을 요구하는 성명을 발표했다.
공익을 위해 필요: 테슬라 최고경영자(CEO)이자 AI 기업 xAI를 설립한 일론 머스크는 지난 28일 자신의 X 계정에 “공공의 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것”이라며 법안에 찬성하는 글을 올렸다. 오픈AI의 맞수이자 ‘클로드’를 개발한 앤스로픽은 지난 21일 공개 서한을 통해 “해당 법안은 AI의 재앙적 위험을 다루고 있다”며 “개정된 법안에서 대기업이나 대형 연구소 외의 소규모 기업은 대상에 제외되기에, 혁신을 저해할 수 있는 문제는 크게 줄었다”며 법안에 긍정적인 태도를 취했다.

━

더 알면 좋은 것

규제든, 지원책이든 한국은 그마저도 정해져 있지 않은 상황. 국내 AI 산업에 대한 지원책, 규제 등을 담은 가이드라인격인 이른바 ‘AI기본법’은 지난 21대 국회 문턱을 넘지 못하고 폐기됐다. 22대 국회에서도 논의는 지지부진하다. 담당 상임위원회인 과학기술정보방송통신위원회가 ‘방송 4법’, 이진숙 방송통신위원장 인사청문회 및 탄핵 소추 등 정쟁으로 시간을 낭비했기 때문이다. 지난 26일에서야 과방위는 AI 기본법을 법안심사 소위원회에 보냈다.

■ 팩플 : AI 위험성 경고한 AI 석학 인터뷰

「 “킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고
https://www.joongang.co.kr/article/25260922

알파고 만든 AI 리더의 경고 “제발 AI 좀 억제하게 해달라”
https://www.joongang.co.kr/article/25233312

‘육회는 six times’ 황당 번역…이걸 싹 고친 AI 스타의 의문
https://www.joongang.co.kr/article/25262558

」