바이든, 안보차원 AI 규제...“AI안전평가, 美정부에 사전 제출해야”

바이든 대통령, AI 행정명령 발표
전시 국방물자생산법으로 규제
AI모델 안전테스트·정보 수집해
안보, 경제, 보건 위험 등 검증
“AI가 핵·화학무기 위협 방지”
AI 워터마크 지침도 제정키로

인공지능(AI) 시스템 개발자들은 앞으로 AI제품을 대중에게 공개하기 전에 안전 테스트 결과를 미국 연방 정부에 제출해야 한다. 또 인공지능 모델이 국가 안보·경제·보건 분야 위험을 내포할 경우에도 미국 정부에 사전 통보가 요구된다.

조 바이든 미국 대통령이 30일(현지시간) 오후 AI 발전을 촉진하면서도 AI의 잠재적 위험으로부터 미국인을 보호하기 위해 전시에 준해서 규제하는 행정명령을 발표한다.

백악관에 따르면 바이든 대통령의 행정명령은 강력한 AI시스템 개발자들이 안전 테스트 결과와 다른 중요한 정보들을 제품 출시 전에 미국 정부와 사전에 공유하도록 했다. 특히 국가안보, 경제안보, 공공보건과 안전 등에 심각한 위험을 초래하는 AI모델을 개발하는 회사는 AI 학습훈련할 때 미국 연방정부에 통보해야 하고 검증을 맡는 ‘레드팀’의 안전테스트 결과도 정부와 공유해야 한다. 이러한 강력한 조치는 AI시스템 안전성과 신뢰성을 높이기 위한 것으로 1950년 한국전쟁 당시에 전략물자보급을 위해 제정됐던 미국의 국방물자생산법을 근거로 했다.

미국 국토안보부는 AI 안전을 검증하는 레드팀 테스트 표준도 설정한다는 방침이다. 이를 통해 AI시스템이 핵무기, 생화학 무기, 방사선, 사이버보안 등 핵심 인프라에 미치는 위협을 철저히 다루기로 했다.

미국 상무부는 AI가 만든 콘텐츠에 워터마크를 표시하는 지침을 개발해서 실물과 명확히 구분하도록 한다. 이는 AI로 인한 사기범죄를 차단하려는 목적이다. 앞서 오픈AI, 마이크로소프트, 구글 등 15개 기업은 백악관과 AI생성 콘텐츠에 대한 워터마크 부착 등 AI 안전표준을 자발적으로 도입하기로 약속한 바 있다.

아울러 백악관은 AI분야 고숙련 인력의 미국 유입을 장려하고 개인 정보 보호를 강화하기로 했다.

백악관은 “바이든 대통령의 행정명령은 AI안전과 보안에 관한 새로운 기준을 정립하고, 미국인 사생활을 보호하면서 형평성을 증진하고, 혁신과 경쟁을 촉진하면서 미국의 리더십을 발전시키는 내용을 담고 있다”고 설명했다.

한편 카멀라 해리스 미국 부통령은 다음 달 1~2일 영국에서 열리는 글로벌 AI 안전 정상회의에 참석해 안전하고 신뢰할 수 있는 AI를 촉진할 수 있는 국제행동강령에 동참할 예정이다.