“1.3조 피해·50명 넘는 사상자 우려돼야 AI 중단”…앤트로픽, 美의회에 법안 제안

생화학 무기·사이버 공격 등
대형 참사 위험 임박할 때만 개입
독립기관이 AI 위험 평가
상무부 요청에 법원 판단 거쳐 중단

[폴리티코]

인공지능(AI) 모델이 10억달러(약 1조3000억원)가 넘는 재산 피해를 일으키거나 50명이 넘는 사상자가 발생할 수 있는 위험이 임박했을 때만 정부가 해당 AI의 출시나 사용을 중단시킬 수 있도록 하는 법안이 미국에서 제안됐다. AI의 위험성을 통제하되 정부가 자의적으로 AI 개발과 사용을 막지 못하도록 엄격한 기준을 마련하자는 취지다.

미국 정치전문매체 폴리티코는 16일(현지시간) 관련 논의에 정통한 소식통 3명을 인용해 AI 클로드를 운영하는 미국 AI 기업 앤트로픽이 이같은 내용을 담은 법안 초안을 미 의회 의원들에게 전달했다고 보도했다. 로이터통신도 같은날 폴리티코를 인용해 주요 내용을 전했다.

법안은 인간의 능력을 뛰어넘는 수준으로 발전할 가능성이 있는 최첨단 AI 모델인 ‘프런티어 AI’의 안전과 보안을 규제하는 데 초점을 맞췄다.

정부가 개입할 수 있는 위험도 구체적으로 제한했다. AI가 생화학 무기를 만들거나 유포하는 경우, 개발자의 통제를 벗어나는 경우, 사이버 공격을 일으키는 경우 등 세 가지 유형이다. 이로 인해 10억달러를 초과하는 재산 피해나 50명 넘는 사망·중상자가 발생할 위험이 예견되고 임박해야 한다.

중단 여부를 정부가 독자적으로 결정할 수도 없다. 법안에 따르면 미 상무부에 등록된 독립 평가기관이 AI 개발사와 모델의 위험성을 정기적으로 점검한다. 평가 과정에서 중대한 위험이 임박했다고 판단하면 평가를 마친 뒤 72시간 이내에 상무부에 보고해야 한다.

상무부는 이를 근거로 법원에 AI 모델의 중단을 요청할 수 있다. 최종 결정은 워싱턴DC 연방지방법원 판사가 내린다. 다른 연방정부 부처나 기관, 공무원은 AI 모델의 개발과 배포, 내부 사용을 독자적으로 중단시킬 수 없도록 했다.

현재 이 법안은 앤트로픽이 의원들에게 제안한 초안으로, 의회에서 정식 발의되거나 통과된 것은 아니다.