머스크, 캘리포니아주 'AI 규제' 법안 지지…xAI도 규제 대상

테슬라 최고경영자(CEO)이자 X를 운영하는 일론 머스크. 로이터=연합뉴스

테슬라 최고경영자(CEO)이자 인공지능(AI) 스타트업 xAI를 설립한 일론 머스크가 미국 캘리포니아주(州)의 AI 기술 규제 법안을 지지하고 나섰다. 적절한 예방 조치가 없으면 무기화와 같은 심각한 결과를 초래할 수 있다는 판단에서다.

지난 26일(현지시간) 머스크는 X(옛 트위터)를 통해 "이는 어려운 결정이고 일부 사람들을 화나게 하겠지만, 모든 것을 고려할 때 캘리포니아에서 AI 안전 법안(SB 1047)이 통과돼야 한다고 생각한다"고 밝혔다. 이어 "나는 20여년간 AI 규제를 옹호해왔다"며 "공공에 잠재적인 위험이 있는 모든 제품과 기술을 규제하는 것과 마찬가지"라고 덧붙였다.

'SB 1047'은 개발 비용이 1억 달러(약 1300억원)가 넘는 거대 언어 모델(LLM)에 대해 안전 테스트를 의무화하는 법안이다. 또 개발자가 AI 모델이 문제를 일으키면 강제 종료할 수 있는 '킬 스위치(kill switch)'가 작동하는지를 주정부에 설명하도록 요구한다.

캘리포니아주 상원은 입법 취지에 대해 "적절한 예방 조치를 하지 않으면 (AI의 발전은) 주요 인프라에 대한 위험, 사이버 공격, 생물학 무기 등 심각한 결과를 초래될 수 있다"고 밝혔다.

━

오픈AI, 메타도 규제 대상…"AI 혁신 저해할 것"

스콧 와이너 캘리포니아주 상원의원. 와이너 상원의원은 생성형 AI를 규제하는 법안 'SB 1047'를 발의했다. AP=연합뉴스

이 법안이 통과되면 캘리포니아에 본사를 둔 구글 등 빅테크 기업 대부분이 규제 대상이 된다. 이들 기업은 SB 1047에 대해 반대해왔다. 페이스북·인스타그램의 모회사인 메타는 "이 법안이 캘리포니아 내에서의 AI 개발을 불리하게 만들 위험이 있다"고 주장했다.

생성형 AI 열풍을 이끈 챗GPT 개발사 오픈AI도 반대에 동참했다. 블룸버그통신에 따르면 오픈AI는 캘리포니아주 상원에 보낸 서한에서 "이 법은 AI 산업의 혁신을 저해할 것"이라며 "AI 규제는 주가 아닌 연방정부가 주도해야 한다"고 했다. 오픈AI는 대신 AI 생성 콘텐트에 워터마킹을 하도록 요구하는 법안(AB 3211)을 지지한다.

머스크가 설립해 운영하고 있는 xAI도 강력한 규제를 받을 수 있다. X는 이달 xAI가 개발한 AI 챗봇 '그록2(Grok-2)'를 베타(시험) 버전으로 출시했는데, 그록2로 생성된 유명 인사의 딥페이크(AI 합성 이미지)와 폭력적인 이미지들이 대거 공유되며 논란을 불렀다.

이에 머스크는 27일 X에 "이 플랫폼(X)은 각국의 법률이 허용하는 범위 내에서 제가 동의하지 않거나 개인적으로 싫어하는 것을 포함해 모든 관점을 지지하기 위한 것"이라며 "그렇게 되지 않는 것 같으면 나에게 외쳐달라"고 썼다.

장윤서 기자 chang.yoonseo1@joongang.co.kr