“AI의 안보·건강 위험, 정부에 보고해야”…바이든 행정명령

조 바이든 미국 대통령이 30일 카멀라 해리스 부통령이 지켜보는 가운데 인공지능(AI) 개발 규제 행정명령에 서명하고 있다. 워싱턴/UPI 연합뉴스

조 바이든 미국 대통령이 국가 안보, 건강, 안전 등을 위협할 수 있는 인공지능(AI) 개발자는 안전 시험 결과를 정부에 제출하게 하는 내용의 행정명령에 서명했다.

바이든 대통령은 30일(현지시각) ‘안심할 수 있고, 안전하며, 신뢰할 수 있는 인공지능 개발과 사용에 관한 행정명령’에 서명했다. 오용할 경우 큰 해악을 끼칠 수 있다는 우려가 제기돼온 인공지능을 규제하는 미국 대통령의 첫 행정명령이다.

바이든 행정부는 이 행정명령을 통해 미국의 안보·경제·공중 보건과 안전에 위협을 가할 수 있는 인공지능 개발자는 안전 검사 결과를 정부에 제출하도록 했다. 백악관은 이는 한국전쟁 때 만든 국방물자생산법에 근거를 두는 것으로, 첨단 인공지능 기술이 출시되기 전에 의무적으로 거쳐야 하는 과정이라고 설명했다.

행정명령은 또 국립표준기술연구소가 인공지능 도구의 안전성 표준을 마련하도록 지시했다. 에너지부는 핵, 핵무기 확산, 생물학, 화학, 핵심 기반시설, 에너지 안보 분야에서 위협이 될 수 있는 인공지능 기술을 평가할 수 있는 수단을 개발하도록 했다. 핵무기나 생물학무기 개발에 인공지능이 이용되는 것 등을 막기 위해서다. 이와 함께 상무부는 인공지능 기술로 만든 가짜 이미지 등의 콘텐츠 식별을 위해 워터마크 적용을 의무화하는 방안을 추진하도록 했다. 행정명령에는 클라우드 서비스 제공자는 외국 고객을 신고하도록 했는데, 중국의 인공지능 기술 발전을 견제하려는 조처로 풀이된다.

바이든 대통령은 서명 자리에서 “인공지능이 나쁜 사람들 손에 들어가면 해커들이 우리 사회가 굴러가게 만드는 소프트웨어의 취약점을 이용할 수 있다”며 “인공지능의 가능성은 실현하고 위험은 피하려면 이 기술을 통제해야 한다”고 말했다. 그는 딥페이크 기술의 위험성을 거론하며 “나인 것처럼 꾸민 것을 보고서는 ‘내가 언제 저런 말을 했지?’라고 말한 적도 있다”며 “당신 목소리를 3초만 녹음하면 당신 가족들까지 속이는 인물을 만들어낼 수 있다”고 했다.

하지만 이 행정명령은 행정부가 갖춰야 하는 조처가 핵심 내용을 구성하고 있어 실제 인공지능을 개발하는 민간 정보기술(IT) 기업에 대한 ‘강제력’이 떨어진다는 한계가 있다. 인공지능 분야에 투자하는 벤처캐피털 터스크벤처스의 최고경영자 브래들리 터스크는 로이터 통신에 “강제할 실질적 방법이 없다면 그 개념은 훌륭하지만 준수 노력은 제한적일 것”이라고 말했다. 그 때문에 기업들이 기술 유출을 우려해 신고를 꺼릴 가능성이 높다는 것이다. 실제 이번 행정명령엔 기업들이 조처를 따르지 않을 경우 부과할 수 있는 벌칙에 대한 내용이 빠져 있다.

바이든 대통령도 이를 의식한 듯 앞으로 의회가 입법에 나서야 한다면서 기업들이 온라인에서 미성년자에 대한 데이터를 수집하는 것을 금지하는 법을 예로 들었다. 에이피(AP) 통신은 유럽연합(EU)의 경우 공공장소에 대한 실시간 안면 인식 기술 적용을 금지하는 등 미국보다 강력한 내용의 규제 정책을 마련하고 있다고 전했다.

이런 가운데 미국을 비롯한 주요 7개국(G7)은 11월1~2일 영국에서 열리는 첫 ‘인공지능 안보 정상회의’를 앞두고 30일 인공지능 개발에 관한 ‘국제 지침’과 ‘행동 규범’에 합의했다. 11개 항목의 ‘국제 지침’을 보면, 첨단 인공지능의 개발과 사용으로 이어지는 전 과정에서 “위험을 식별·평가·완화”하기 위한 “적절한 조처”를 취해야 한다는 내용이 담겨 있다. 또 첨단 인공지능의 능력과 한계를 알리고, 개발 과정에서 발생한 문제도 투명하게 공개해야 한다는 내용도 포함됐다. 또 개발자들은 제3자가 취약점을 신고할 수단을 마련해야 하고, 인공지능 콘텐츠에 워터마크를 입히는 도구를 개발해야 한다는 권고도 확인할 수 있다.

이 합의는 지난 5월에 일본에서 열린 주요 7개국 정상회의를 계기로 출범한 ‘히로시마 인공지능 프로세스’에 따른 것이다. 7개국 정상들은 합의를 환영하는 공동성명에서 이런 노력을 통해 “기술의 혜택은 극대화하고 위험은 완화하는” 인공지능 개발이 촉진될 것이라며 연말까지 추가 합의를 추진하겠다고 밝혔다.

워싱턴/이본영 특파원

ebon@hani.co.kr