더 세진 AI규제… 미 “모델 훈련 때부터 보고”

■ 바이든 ‘안전AI’ 행정명령 서명
기업 테스트 공유 안보위협 차단
콘텐츠 인증 ‘워터마크’ 개발도
바이든 “내 딥페이크, 나도 혼란”
기술 개발하되 규제 필요성 강조

조 바이든(왼쪽) 미국 대통령이 30일 백악관 이스트룸에서 카멀라 해리스 부통령이 지켜보는 가운데 인공지능(AI)의 잠재 위험을 규제하는 내용을 담은 행정명령에 서명하고 있다. UPI 연합뉴스

워싱턴=김남석 특파원 namdol@munhwa.com

조 바이든 미국 행정부가 국가 안보나 경제 안보, 공중보건·안전 등에 위험을 초래할 수 있는 인공지능(AI) 모델 개발 기업에 대해 AI 모델 훈련 시 연방정부에 통지하고 안전 테스트 결과를 공유하도록 했다. 바이든 대통령은 “AI의 도전·기회는 전 세계적”이라며 기술 개발의 필요성을 설명하는 동시에 자신의 딥페이크(AI 기반 인물 이미지 합성 기술) 영상 경험을 소개하며 규제의 필요성을 강조했다.

백악관은 30일 보도자료를 통해 바이든 대통령이 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 밝혔다. 백악관은 이번 행정명령에 대해 “AI 안전·보안에 대한 기준을 수립하고, 개인정보를 보호하고, 평등·시민권을 증진하고, 소비자·근로자를 옹호하고, 혁신·경쟁을 촉진하고, 전 세계에서 미국의 리더십을 발전시키는 등의 내용을 담았다”고 설명했다. 행정명령은 국가 안보 등에 위험을 초래할 수 있는 AI 개발 시 모델 훈련에서부터 정부에 사전 통보하고 안전 테스트 결과 등을 공유하도록 규정했다. 백악관은 AI에 대한 조치를 강제하기 위해 한국전쟁 당시 발효됐던 국방물자생산법까지 동원했다.

행정명령은 또 국립표준기술연구소가 안전보장을 위한 테스트 기준을 설정하는 등 AI 시스템의 안전·보안·신뢰를 보장할 수 있는 표준·도구 등을 개발토록 했다. 국토안보부·에너지부는 해당 표준에 따라 중요 인프라에 대한 AI 위협과 화학·생물학·방사능·핵·사이버 보안 위험에 대처한다. 이와 함께 행정명령은 AI를 활용한 사기·속임수를 막기 위해 AI 콘텐츠를 식별하고 인증하는 표준도 수립하도록 했다. 콘텐츠 인증 및 워터마크 지침 개발은 상무부가 맡는다. 이 밖에 미군과 정보당국의 AI 사용과 적의 군사적 AI 사용 대응을 위한 국가 안보 각서 개발, 근로자에 대한 AI 피해를 줄이고 혜택을 극대화하는 원칙 개발 등의 내용도 담겼다.

바이든 대통령은 이날 행정명령 서명 전 연설에서 “사람을 속이는 AI 장치들이 이미 사용되고 있다. 딥페이크는 AI로 만든 오디오·비디오를 사용해 명예를 훼손하고 가짜뉴스를 유포하고 사기를 저지른다”며 “나도 한 번 내 것을 본 적이 있는데 ‘내가 도대체 언제 그런 말을 했지’라고 말했다. 맹세컨대 한번 보라. 정말 놀랍다”고 밝혔다. 다만 바이든 대통령은 “최첨단 기술을 유지할 수 있도록 혁신 분야에서 세계를 선도하고 최고 인재를 유치할 것”이라며 AI 기술 개발도 강조했다.