美 AI 규제법, 이달 말 통과될 듯…”韓도 포괄적 기본법 시급”

챗GPT 달리3

미국 캘리포니아주(州)가 인공지능(AI)으로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 캘리포니아에는 구글, 메타 등 테크 기업들이 모여 있어서 업계 비상이 걸린 셈이다. 캘리포니아에서 AI법이 통과되면 다른 주와 한국에도 영향을 미칠 수 있어 통과 여부에 관심이 모인다.

18일(현지시각) 뉴욕타임스와 테크크런치 등 현지 매체들에 따르면 지난 15일 캘리포니아주 하원 예산위원회는 ‘첨단 AI 시스템을 위한 안전과 보안 혁신법안’(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act) 수정안을 통과시켰다. 이 법안은 이달 말 주 상원에서 최종 투표만을 앞두고 있다. 기술로 인한 치명적인 피해의 위험을 줄이기 위해 AI 개발사들이 반드시 안전 테스트를 하도록 강제하는 것이 골자다.

법안은 AI가 인간에게 위해를 끼칠 경우 사람이 가동을 중단시킬 수 있는 ‘킬 스위치’를 만들도록 하고 있다. 예컨대 사람을 사망에 이르게 하거나 5억 달러 이상의 사이버 공격 등 중대한 피해가 생기면 AI 개발사가 책임을 지도록 한 것이다. 캘리포니아에서 사업을 하는 기업이라면 해외 기업이어도 이 규정을 따라야 하기 때문에 빅테크는 물론이고 많은 AI 스타트업들이 규제 대상에 해당된다. 다만 모든 모델에 적용되는 것은 아니고 학습을 하는데 특정 수준 이상의 컴퓨터 성능을 필요로 하고, 훈련에 1억달러 이상의 비용이 드는 AI 모델에만 적용된다.

스콧 위너 캘리포니아주 상원의원은 “개인정보 보호와 관련된 과거 정책 실패에서 교훈을 얻고 너무 늦기 전에 시민을 보호하려는 시도”라며 “나쁜 일이 일어나기를 기다리지 말고 앞서 나가자는 의도”라고 말했다고 외신들은 전했다.

업계에선 반발하고 있다. AI 회사들 뿐 아니라 벤처 캐피털리스트, 연구자 및 스타트업 등 관계자들은 AI법과 관련, 일어나지도 않은 일로 인해 기술 개발을 저해하고 있다고 반발했다. AI를 악의적인 목적으로 이용하는 사람에게 책임을 지우지 않고 개발사에 보상 책임을 지우는 것은 부당하다는 것이다. ‘AI 4대 석학’으로 꼽히는 앤드류 응 스탠퍼드 교수는 최근 “기술 규제는 AI 발전을 더디게 할 뿐”이라며 “역기능을 막으려면 AI 어플리케이션을 관리할 필요가 있다”고 말하기도 했다. 입법반대 활동에 가장 적극적인 스타트업 엑셀러레이터 Y콤비네이터의 루터 로우 공공 정책 담당은 “이 법안이 그대로 시행된다면 캘리포니아의 혁신에 찬 물을 끼얹을 것”이라고 WSJ에 말했다.

세계 주요국들은 각국의 여건을 고려한 규범체계 정립을 본격적으로 추진하고 있다. 미국에서는 연방 차원에서 ‘국가 2021년 AI 이니셔티브법’을 마련하고, 작년 10월 연방정부의 ‘AI 행정명령’을 통해 기존 법제 내 부처별 지침과 제도를 마련했다. 유럽연합(EU)에선 AI 시스템의 위험 수준에 따른 차등적 규제를 골자로 하는 AI 법이 발효됐다. 일본은 그간 기존 법률로 AI를 관리하면서 기업 자율과 기술 개발 촉진을 강조해 왔으나 지난 5월 내각부 산하 ‘AI 전략회의’에서 AI 규제 기본방침과 AI 안전성 확보를 위한 법률 규제 방침을 밝혔다.

한국지능정보사회진흥원(NIA)은 ‘해외 주요국의 AI 규제 거버넌스 현황과 시사점’ 보고서를 통해 “우리나라도 AI 신뢰 기반 조성을 위해 국내 경제·사회적 여건을 고려한 AI 기본법의 조속한 제정이 중요하다”며 “AI의 기술적 특성을 반영한 기본 사항 입법이 시급하다”고 전했다.

- Copyright ⓒ 조선비즈 & Chosun.com -