머스크, "AI 잠재적 위험" 美캘리포니아주 규제 법안 지지

일론 머스크 테슬라 최고경영자. 로이터 연합뉴스

대표적인 인공지능(AI) 안전성 규제 옹호자인 테슬라 및 인공지능(AI) 스타트업 xAI를 설립자인 일론 머스크가 미국 캘리포니아주의 AI 규제 법안을 지지하고 나섰다.

캘리포니아주 상원에 발의된 'SB 1047'은 AI 개발사가 자사의 대규모 언어 모델에 대한 안전 테스트를 수행하고 모든 알고리즘에 의한 결정이 편향되지 않았음을 입증하도록 의무화하는 내용 등을 담고 있다.

머스크는 지난 26일(현지시간) 엑스(X·옛 트위터)에 "이것은 어려운 결정이고 일부 사람들을 화나게 하겠지만, 모든 것을 고려하면 나는 캘리포니아주가 아마도 'SB 1047' AI 안전 법안을 통과시켜야 한다고 생각한다"고 썼다. 그는 이어 "지난 20여년간 나는 AI 규제를 옹호해 왔다"며 "우리가 공공에 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것과 마찬가지"라고 덧붙였다.

캘리포니아주 상원은 입법 취지에 대해 "인간의 통제를 제대로 받지 않는다면 미래 AI의 발전은 생물학, 화학, 핵무기 같은 대량파괴 무기와 사이버 공격 능력을 갖춘 무기의 제조 및 확산을 가능하게 하는 등 공공 안전과 안보에 새로운 위협을 초래할 잠재력이 있다"고 설명했다.

또 "주 정부는 캘리포니아가 가장 심각한 위험을 피하면서 이 기술의 이점을 인식하고, 대기업뿐만 아니라 학계 연구자 및 스타트업이 AI 혁신과 컴퓨팅에 접근할 수 있도록 보장하는 데 필수적인 역할을 해야 한다"고 밝혔다.

폴리티코 등 미국 매체들은 이 법안이 통과될 경우 머스크가 현재 운영 중인 xAI도 강력한 규제를 받을 수 있다고 짚었다. 최근 xAI가 개발해 엑스에서 베타(시험) 버전으로 출시한 최신 AI 챗봇 그록2(Grok-2)는 이미지 생성 기능으로 논란이 되고 있다.

현지 매체들은 엑스에 그록2가 생성한 유명 인사의 딥페이크(합성 이미지)와 폭력적이고 노골적인 이미지가 넘쳐나고 있다고 지적했다.

폴리티코는 xAI의 그록이 "이 소셜미디어 플랫폼(엑스)에 넘쳐나는 잘못된 정보와 딥페이크에 대해 경고 수위를 높였다"고 전했다.

해당 법안이 통과되면 캘리포니아에 본사를 둔 오픈AI와 구글 등 대부분의 AI 개발업체들이 규제 대상이 된다. AI 업계는 이 법안에 대부분 반대 의견을 표명해 왔다. 김광태기자 ktkim@dt.co.kr