바이든 “내 딥페이크에 나도 놀랐다”…미국 ‘AI 족쇄’ 채우기

조 바이든 미국 대통령(왼쪽)이 지난달 30일(현지시간) 백악관 이스트룸에서 인공지능(AI) 기술 오 남용을 막기 위해 정부의 감시와 통제를 강화하는 내용의 행정명령에 서명했다. [AP=연합뉴스]

조 바이든 미국 행정부가 인공지능(AI) 기술의 오용을 막기 위한 규제 마련에 첫발을 뗐다. AI 모델 훈련부터 실제 서비스에 이르는 전 과정에서 정부의 감시와 통제를 강화하기로 했다. AP통신 등에 따르면 바이든 대통령은 30일(현지시간) 이런 내용이 담긴 ‘안정적이고 안전하며 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다.

바이든 대통령은 서명에 앞서 백악관 연설에서 “딥페이크(AI 기반 인물 이미지 합성 기술)는 명예를 훼손하고 가짜뉴스를 유포하고 사기를 저지른다”며 “나도 내 것(딥페이크 영상)을 본 적 있는데, ‘내가 언제 저렇게 말했지’라고 생각했다. 정말 놀랍다”고 말했다. 그러면서 “AI 사기꾼들은 목소리를 3초만 녹음해 여러분뿐 아니라 가족까지 속일 수 있다”며 “AI의 가능성을 실현하는 동시에 위험을 피하기 위해선 이 기술을 관리해야만 한다”고 덧붙였다.

미국 정부는 사실상 모든 AI 서비스에 대해 기술 개발부터 서비스에 이르는 모든 과정에 개입해 관리·감독하기로 했다. 행정명령은 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보를 제품 출시 전에 정부와 사전 공유하도록 했다.

특히 미국의 안보·경제·공중보건 등에 위협을 가할 수 있는 AI 모델을 개발하는 회사는 AI 훈련 단계부터 관련 내용을 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀(공격조)’ 테스트 결과를 보고해야 한다. 기술이 배포돼 서비스가 이뤄진 후에도 정부는 지속해서 업체로부터 보고를 받으며 AI의 영향을 평가하기로 했다.

백악관은 규제 도입 근거로 1950년 한국전쟁 당시 만든 국방물자생산법을 동원했다. 행정명령은 안전보장을 위한 테스트 기준 등 AI의 안전·보안·신뢰를 보장할 수 있는 표준·도구 등을 국립표준기술연구소가 개발하도록 했다. 국토안보부와 에너지부는 이 기준에 따라 중요 인프라 시설에 대한 AI 위협과 화학·생물학·방사능·핵·사이버 보안 위험에 대처하기로 했다.

AI를 활용한 사기·속임수를 막기 위해 AI 콘텐트를 판별해 인증하는 표준 절차도 만들도록 했다. 검증된 AI 생성 콘텐트에 대한 인증 및 워터마크(저작권 보호, 위·변조 방지, 작성자 식별 등을 위해 문서·사진·동영상 파일에 삽입하는 로고나 문자)를 부여하는 지침 개발은 상무부가 맡는다. 다만, 행정명령을 이행하지 않을 경우 부과할 벌칙이 빠져 기업에 준수를 강제할 유인이 떨어진다는 지적이 있다. 바이든 대통령도 이를 의식한 듯 “의회가 입법에 나서야 한다”고 강조했다.

행정명령 서명은 1~2일 영국에서 열리는 AI 안보 정상회의에서 주요 7개국(G7)이 합의해 발표할 예정인 ‘AI 국제 행동강령’이 나오기 이틀 전에 이뤄졌다. 로이터통신 등에 따르면 11개 항목으로 구성된 행동강령은 레드팀, AI 안전성 평가 정보 공유, 워터마크 부착 등 미국 행정명령과 상당 부분 내용이 비슷하다. 뉴욕타임스는 “AI 강자인 미국이 규제도 선도하겠다는 것을 보여주려는 노력”이라고 분석했다.

니혼게이자이신문은 “미국과 유럽·중국이 AI 규제 국제 표준 마련을 두고 주도권을 겨루고 있다”고 전했다. 유럽의회는 지난 7월 AI 학습 데이터 공개, 불법 콘텐트 제작 방지 기능 구비 등 내용을 담은 AI 규제법을 의결하고 유럽집행위원회 등과 최종 내용을 조율 중이다. 중국도 같은 달 ‘생성형 AI 산업 관리 규정’을 통해 생성형 AI 제품을 출시하기 전에 당국에서 사전 보안 평가를 받도록 했다.

이승호 기자 wonderman@joongang.co.kr