딥페이크 영상에 놀란 바이든… “AI 규제, 戰時 수준 시급”

바이든, AI 규제 행정명령 서명
국가·국제적 차원 규제 본격화
6·25 때 활용한 ‘물자생산법’ 동원
내년 대선 앞두고 ‘출처 표준’ 요구
저작권·개인정보 보호 방안 추진
금주 ‘AI 안보 정상회의’ 앞둔 G7
보안 강화 등 국제행동 강령 합의
“美·EU, AI규제 주도권 경쟁 총성”

조 바이든 미국 대통령이 인공지능(AI)의 안전성을 높이기 위한 규제가 담긴 첫 행정명령을 30일(현지시간) 발표했다. 주요 7개국(G7) 역시 이날 AI 개발에 관한 국제 규범에 합의하면서 국가·국제적 차원의 AI 규제가 본격화하고 있다.

이날 바이든 대통령은 백악관에서 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용에 관한 행정명령’에 서명했다.

조 바이든 미국 대통령(왼쪽)이 지난 30일(현지시간) 워싱턴 백악관에서 카멀라 해리스 부통령의 박수를 받으며 ‘안전하고 신뢰할 수 있는 인공지능(AI)에 대한 행정명령’에 서명하고 있다.  워싱턴=AFP연합뉴스

행정명령의 핵심은 기업이 AI를 대중에게 공개하기 전에 안전성 검사를 거치도록 하고, 그 결과를 연방정부에 보고하라는 것이다. 특히 국가 안보·경제·공공 보건 등에 위험을 초래할 수 있는 AI를 개발하는 기업은 개발 단계부터 이를 정부에 알리고 객관성이 보장된 검사 결과를 정부에 공유해야 한다.

행정명령은 이를 위해 국립표준기술연구소가 객관적인 안전성 표준을 마련하도록 했으며, 에너지부에는 핵무기·생화학·에너지 안보 분야 등에서 위협이 될 수 있는 AI 기술을 선별하는 수단을 개발하도록 했다.

바이든 대통령은 안전성 검사를 의무화하는 이번 행정명령의 법적 근거로 국방물자생산법을 동원했다. 한국전쟁 당시 전략물자 보급을 위해 만들어진 이 법은 미국 대통령이 국가안보를 위해 특정 물품의 생산을 확대·관리할 수 있도록 한다. 바이든 대통령은 “전쟁 중이거나 신종 코로나바이러스 감염증 백신을 개발하는 등 가장 긴급한 순간에 연방정부가 사용하는 이 법을 발동한다”며 AI 규제의 시급성이 전시와 유사한 정도의 수준이라고 강조했다.

내년 대선을 앞두고 ‘민주주의를 위협하는 적’으로 꼽히는 딥페이크(AI로 만든 영상 합성·조작물)의 위험성을 제거하기 위한 방안도 담겼다.

미 상무부는 이번 행정명령에 따라 AI가 생성한 콘텐츠에 워터마크(식별표시)를 부착하고 콘텐츠의 출처를 확인하는 기술 표준을 마련해야 한다. 이미 구글 등 미국 주요 빅테크(거대기술) 기업들은 가짜뉴스의 폐해를 막기 위해 선거 광고에 AI 사용 표시를 의무화하겠다고 밝힌 바 있다. 바이든 대통령은 이날 서명 전 연설에서 자신의 딥페이크 영상을 보고 자신조차 깜빡 속았던 경험을 소개했다. 그는 “‘내가 도대체 언제 저런 말을 했지?’라고 말했다”며 규제 필요성을 재차 강조했다.

AI로 인한 ‘실직 공포’를 해소할 방안도 실렸다. 정부기관들은 AI를 고용을 줄일 방법으로 활용하지 말아야 하며, AI가 노동 시장에 미칠 잠재적 영향과 AI로 일자리를 잃은 근로자를 도울 방법에 대한 보고서도 연방정부에 제출해야 한다.

나아가 AI 산업의 발전을 위해 인재를 유치할 방안도 모색하겠다고 바이든 대통령은 밝혔다. 백악관은 “더 많은 근로자가 AI 생태계에서 일하도록 장려하고, 학생과 AI 연구원에게 주요 정보를 제공하며, 중소기업에 기술 지원을 제공하겠다”고 밝히며 AI 연구 예산을 더욱 늘리겠다고 했다. 또 각종 정부 기관에서 AI 전문가를 신속하게 채용하라고 명령했다.

AI의 발전으로 침해 우려가 커진 저작권 및 개인정보를 보호하기 위한 조치도 포함됐다. 저작권청 등은 AI 콘텐츠의 저작권법 위반 여부를 평가하는 제도를 개발해야 하며, 기업에는 AI 학습에 사용하는 개인정보를 규제하기 위한 보호 지침을 만들라는 규정이다. 또 채용·선고·가석방·보호관찰 등에서 활용되는 AI 도구의 편향성을 해소하고 공정성을 확보하는 방안도 요구됐다. 인간의 차별을 학습한 AI의 ‘2차 차별’을 막겠다는 것이다.

그러나 이번 행정명령으로 AI가 초래하는 각종 권리 침해 문제를 해결하기에는 역부족이다. 주로 정부기관 등에 AI 개발·관리와 관련된 표준을 마련하라는 내용이 주를 이루는 탓이다. 바이든 대통령 역시 “의회가 움직여야 한다”며 데이터 개인정보 보호법의 의회 통과를 촉구했다. 이날 행정명령을 발표하는 자리에는 의회 차원의 AI 규제 법안을 마련하는 데 앞장서고 있는 척 슈머 민주당 상원 원내대표도 함께했다.

기술과 데이터 유출 우려로 기업이 적극적인 공유를 꺼릴 수 있다는 우려도 제기된다. 벤처캐피털 터스크벤처스의 최고경영자(CEO) 브래들리 터스크는 로이터통신에 “행정명령에 포함되지 않은 강제성을 부과할 방법이 없다면 기업들의 준수율이 매우 제한적일 수 있다”고 지적했다. 실제 이번 행정명령엔 기업들이 결과를 공유하지 않을 경우 부과할 벌칙 등이 빠져 있다.

이번 행정명령에 대해 미국 뉴욕타임스는 “빠르게 움직이는 AI 강국으로 평가받는 미국이 규제에서도 주도권을 쥐고 있다는 점을 보여주기 위한 노력”이라고 평가했다. 유럽연합(EU)은 강력한 AI 규제 필요성에 합의해 이미 ‘AI 법’ 초안을 마련하고 연내 통과를 목표로 하며 규제 움직임에서 앞서나가고 있다. 이에 미국과 EU 간 AI 규제 주도권을 잡기 위한 경쟁도 덩달아 본격화했다는 진단이다.

미국을 비롯한 G7도 11월1~2일 영국에서 열리는 첫 ‘AI 안보 정상회의’를 앞두고 이날 인공지능 개발에 관한 ‘국제 행동 강령’에 합의했다. 로이터에 따르면 강령은 AI 관리 및 보안 강화, 개인정보 보호 등 총 11개 항목으로 구성돼 첨단 AI의 개발과 사용 전 과정에서 기업이 AI 위험성을 정기적으로 식별하고 평가하며, 이를 완화하기 위한 적절한 조치를 취해야 한다는 내용이 담겼다.

또 AI 시스템의 성능을 평가해 그 한계를 알리고, 개발 과정에서 발생한 문제 등 오용 사례에 대한 보고서도 투명하게 공개하도록 했다. 마찬가지로 AI가 생성한 콘텐츠에 워터마크를 달아야 하고, 기업이 AI 해킹을 막기 위해 보안에 적극적으로 투자하라는 권고도 담겼다.

국제 행동 강령인 만큼 구체적인 규제 법안 만큼의 강제성은 없지만, 법안 완성 전까지 기업들과 각국 정부가 자체적으로 마련하는 규제안의 기준으로 활용될 전망이다.

이번 회의에는 카멀라 해리스 미 부통령이 바이든 대통령을 대리해 참석한다. 생성형 AI 챗GPT 개발사인 오픈AI의 샘 올트먼 CEO, 사티아 나델라 마이크로소프트 CEO 등도 자리한다.

이지안 기자 easy@segye.com