美 캘리포니아주 AI법 시동에, 오픈소스 진영 반발

뉴욕주, 18세미만 알고리즘 사용 금지

캘리포니아주 주의회 의사당 [이상덕 기자]

미국 캘리포니아주 의회가 AI 법 제정에 나서면서 AI 업계가 비상에 걸렸다. 캘리포니아주에는 오픈AI, 구글, 메타, 애플과 같은 빅테크 기업이 즐비하기 때문이다.

9일 블룸버그에 따르면, 주의회는 오는 8월 AI 법을 표결한다고 밝혔다. 주요 내용은 크게 두 가지다. 첫째, AI 기업은 생물학·핵 무기를 만들거나 사이버 보안 공격을 지원하는 등 ‘위험한 능력’을 가진 모델을 개발하지 않겠다고 주정부와 약속해야 한다. 둘째, 개발자는 안전 테스트 결과를 보고해야 하며, AI가 특정 위험에 대한 임계치를 넘을 경우 중단시킬 ‘킬 스위치’를 도입해야 한다.

메타처럼 오픈소스로 AI 모델을 배포하는 기업은 애매한 상황이다. AI 모델을 오픈소스로 배포할 경우 어떤 기업이 어떤 용도로 사용할지 모르기 때문이다. 이에 대해 앤드류 응은 “누군가 혁신을 억압하는 규제를 만들고자 한다면 이보다 더 좋은 방법은 없을 것입니다. 공상 과학적 위험에 대한 막대한 책임을 야기하기 때문에 혁신을 시도하는 모든 사람에게 두려움을 불러일으킵니다”라고 말했다. 이번 법은 CAIS(Center for AI Safety)라는 단체가 주도하고 있으며, 이 단체의 수장은 일론 머스크(Elon Musk)의 AI 스타트업인 xAI의 안전 고문을 맡고 있는 댄 헨드릭스다. 해당 법이 캘리포니아주 의회를 통과할지는 좀 더 지켜봐야 한다.

또 CNBC에 따르면, 뉴욕주 의회는 소셜 미디어 플랫폼이 어린이 사용자를 상대로 ‘중독성 있는’ 추천 알고리즘을 사용하는 것을 금지하는 법안을 통과시켰다. 대상은 18세 미만이다. 법은 알고리즘 피드 자체를 ‘중독성’이라고 규정했다. 구체적으로 “사용자 또는 디바이스와 관련된 정보를 기반으로 미디어를 추천, 선택 또는 우선순위를 지정하는 피드”라고 명시했다.

해당 법은 뉴욕주 법무장관이 시행 규칙을 배포하도록 강제했으며, 위반 사실이 적발된 기업은 30일 이내에 문제를 시정하거나, 18세 미만 사용자당 최대 5000달러를 지급해야 한다. 구글, 메타, 틱톡과 같은 기업들은 추천 피드를 주로 사용하기 때문에 이번 법안이 큰 영향을 미칠 것으로 보인다. 어린이를 보호하는 것은 좋지만, 문제를 해결하는 방법에 대해 테크 업계와의 조율이 이루어지지 않아 향후 테크 기업들의 반발이 예상된다.