"내 딥페이크 나도 놀라"…AI 규제 칼 뺀 바이든, 복잡한 속내

조 바이든 미국 대통령이 30일(현지시간) 백악관에서 카멀라 해리스 부통령이 지켜보는 가운데 인공지능(AI) 규제 관련 행정명령에 서명하고 있다. AP=연합뉴스

미국 조 바이든 행정부가 인공지능(AI) 기술의 오용을 막기 위한 규제 마련에 첫발을 뗐다. AI 모델 훈련부터 실제 서비스에 이르는 전 과정에서 정부의 감시와 통제를 강화하기로 했다. AP통신 등에 따르면 바이든 대통령은 30일(현지시간) 이런 내용이 담긴 ‘안정적이고 안전하며, 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다.

바이든 대통령은 이날 서명에 앞서 백악관에서 가진 연설에서 “딥페이크(AI 기반 인물 이미지 합성 기술)는 명예를 훼손하고 가짜뉴스를 유포하고 사기를 저지른다”며 “나도 내 것(딥페이크 영상)을 본 적이 있는데, ‘내가 언제 저렇게 말했지’라고 생각했다. 정말 놀랍다”고 말했다. 그러면서 “AI 사기꾼들은 목소리를 3초만 녹음해 여러분뿐 아니라 가족까지 속일 수 있다”며 “AI의 가능성을 실현하는 동시에 위험을 피하기 위해선 우리는 이 기술을 관리해야만 한다”고 덧붙였다.

━

AI 개발부터 서비스 모두 정부가 관리·감독

프란치스코 교황이 허리춤이 강조된 흰색 롱패딩을 입고 바티칸시국의 성 베드로 광장을 산책하는 모습을 담은 AI로 만든 딥페이크 사진. 사진 미국 온라인 커뮤니티 레딧 캡처.

미국 정부는 사실상 모든 AI 서비스에 대해, 기술 개발부터 서비스 과정에 이르는 모든 과정에 개입해 관리·감독하기로 했다. 행정명령은 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보들을 제품 출시 전 미국 정부와 사전 공유하도록 했다.

특히 미국의 안보·경제·공중 보건등에 위협을 가할 수 있는 AI 모델을 개발하는 회사는 AI 훈련 단계부터 관련 내용을 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀(공격조)’의 테스트 결과를 정부에 보고해야 한다. 기술이 배포돼 서비스가 이뤄진 후에도 정부는 지속해서 업체로부터 보고를 받으며 AI의 영향을 평가하기로 했다.

백악관은 이 같은 규제 도입의 근거로 1950년 한국전쟁 당시 만든 국방물자생산법까지 동원했다. 바이든 대통령은 “전쟁 같은 가장 긴급한 순간을 대비해 기술 허용 전에 가장 강력한 안전 검증을 진행하려는 것”이라고 설명했다.

미국 언론인 엘리엇 히긴스가 생성형 AI를 통해 만든 딥페이크 사진. 도널드 트럼프 전 대통령이 경찰에 의해 끌려가는 모습을 허위로 만들었다. AP=연합뉴스

행정명령은 또 안전보장을 위한 테스트 기준 등 AI의 안전·보안·신뢰를 보장할 수 있는 표준·도구 등을 국립표준기술연구소가 개발하도록 했다. 국토안보부와 에너지부는 이 기준에 따라 중요 인프라 시설에 대한 AI 위협과 화학·생물학·방사능·핵·사이버 보안 위험에 대처하기로 했다.

AI를 활용한 사기·속임수를 막기 위해 AI 콘텐트를 판별해 인증하는 표준 절차도 만들도록 했다. 검증된 AI 생성 콘텐트에 대한 인증 및 워터마크를 부여하는 지침 개발은 상무부가 맡는다. 이 밖에 행정명령엔 미군과 정보당국의 AI 사용과 적의 군사적 AI 사용 대응을 위한 국가 안보 각서 개발, 기업의 개인정보 취급 지침과 AI가 노동시장에 미칠 피해를 줄이고 근로자에 대한 혜택을 극대화하는 원칙을 개발하는 등의 내용도 담겼다.

━

“미국이 AI 규제 선도” 보여주기 의도

주요 7개국(G7) 정상들이 지난 5월 일본 히로시마에서 열린 G7 정상회에서 회의하고 있다. AP=연합뉴스

이번 서명은 다음 달 1~2일 영국에서 열리는 AI 안보 정상회의에서 미국 등 주요 7개국(G7)이 합의해 발표할 예정인 ‘AI 국제 행동 강령’이 나오기 이틀 전에 이뤄졌다. 로이터통신 등에 따르면 11개 항목으로 구성된 행동강령은 레드팀, AI 안전성 평가 정보 공유, 워터마크 부착 등 미 행정명령과 상당 부분 내용이 비슷하다.

이번 행정명령 서명에 미국이 AI 규제를 이끈다는 인상을 주려는 의도가 담겨있다는 평가가 나오는 이유다. 뉴욕타임스(NYT)는 “AI 강자인 미국이 규제도 선도하겠다는 것을 보여주려는 바이든 대통령의 노력”이라고 분석했다. 실제 카멀라 해리스 부통령은 이날 “우리가 취하고 있는 조치가 국제 모델이 될 것”이라 말했다.

일본 니혼게이자이신문은 “미국과 유럽·중국이 AI 규제 국제 표준을 미련을 두고 주도권을 겨루고 있다”고 전했다. 유럽의회는 지난 7월 AI 학습 데이터 공개, 불법 콘텐트 제작 방지 기능 구비 등의 내용을 담은 AI 규제법을 의결하고 유럽집행위원회 등과 최종 내용을 조율 중이다. 중국도 같은 달 ‘생성형 AI 산업 관리 규정’을 통해 생성형 AI 제품을 출시하기 전 당국에서 사전 보안 평가를 받도록 했다.

━

빅테크들 일단 “환영”, 속내는…

생성형 AI 챗GPT와 챗GPT 개발사 오픈AI의 로고 이미지. 로이터=연합뉴스

이날 아마존, 알파벳, 오픈AI, 메타 등 미국의 주요 AI 기술 업체들은 행정명령을 환영하며 따르겠다는 입장을 나타냈다. 브래드 스미스 마이크로소프트(MS) 부회장은 “(행정명령은) AI 거버넌스에서 또 다른 중요한 진전”이라고 평가했다.

하지만 속내는 조금 다르다. 규제가 AI 발전을 늦춰 중국 등과의 기술 경쟁에서 뒤처지는 결과를 낳을 수 있다고 우려한다. 미 빅테크 기업을 회원사로 둔 단체 넷초이스는 “(이번 행정명령은) 신규 기업의 시장 진입을 막고 연방정부의 통제를 강화해 AI 분야를 선도하는 기술 혁신세력인 미국의 글로벌 위상을 위험하게 할 것”이라고 비판했다.

행정명령을 이행하지 않을 경우 부과할 벌칙 내용이 빠져 기업에 준수를 강제할 유인이 떨어진다는 지적도 나온다. AI 분야에 투자하는 벤처캐피털 터스크벤처스의 브래들리 터스크 최고경영자(CEO)는 로이터통신에 “강제할 실질적 방법이 없다면 그 개념은 훌륭하지만 (기업들의) 노력은 제한적일 것”이라고 말했다. 바이든 대통령도 이를 의식한 듯 “의회가 입법에 나서야 한다”고 강조했다.

이승호 기자 wonderman@joongang.co.kr