바이든 "내 딥페이크 보고 내가 놀라"... 미국 최초 AI 행정명령 서명

"AI에 안전장치 놓는 첫걸음" 평가

조 바이든(왼쪽) 미국 대통령이 30일 워싱턴 백악관에서 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명하고 있다. 워싱턴=EPA 연합뉴스

미국 최초의 인공지능(AI) 규제 방안이 마련됐다. AI의 위험성을 최소화하면서 안전하고 믿을 수 있는 방향으로 개발하는 것을 목표로 하는 행정명령에 조 바이든 미국 대통령이 30일(현지시간) 서명한 것이다. "잠재력이 엄청나지만, 위험성도 그만큼 큰 기술에 가드레일(안전장치)을 놓으려는 첫걸음"(뉴욕타임스)이라는 평가가 나온다.

백악관에 따르면 바이든 대통령은 이날 '안전하고 신뢰할 수 있는 AI에 대한 행정명령' 서명에 앞서 "사람들을 속이기 위한 AI 장치들이 이미 사용 중"이라며 "나도 내 것(딥페이크)을 본 적이 있는데, '내가 도대체 언제 저렇게 발언했지'라고 (스스로) 말했을 정도"라고 밝혔다. 그러면서 "AI의 가능성을 실현하는 동시에 위험을 피하려면 이 기술을 관리해야 한다"고 강조했다. AI 발전이 너무 빠르고 위험하게 전개되고 있는 만큼, 정부가 개입할 수밖에 없다고 역설한 것이다.

AI 개발 단계부터 정부와 주요 내용 공유해야

이번 행정명령을 통해 미국 정부는 AI 개발자들에게 서비스 출시 전 안전 테스트를 실시하고, 그 결과를 비롯한 주요 정보를 정부와 반드시 공유하도록 했다. 사실상 서비스 출시 전부터 정부가 개발 상황을 점검하고, 경우에 따라선 통제도 하겠다는 취지다. 백악관은 이를 강제하기 위해 한국전쟁 당시 전략물자보급을 위해 발효됐던 국방물자생산법을 근거로 삼았다. 바이든 대통령은 "이러한 권한은 전쟁 같은 '가장 긴급한 순간'을 위해 보유돼 온 것"이라고 설명했다. AI의 파급력이 전쟁만큼이나 클 수 있다고 판단했다는 얘기다.

행정명령은 또 각 부처에 AI로 인한 영향뿐 아니라 피해 최소화 방안을 연구할 것을 의무화했다. 구체적으로 상무부에는 AI가 만든 콘텐츠인지 아닌지를 식별하고, 이를 인증하기 위한 표준을 제정하는 임무를 맡겼다. 교육부와 국방부, 보건복지부도 AI가 교육·의료 서비스, 국가안보 등에 어떤 영향을 미칠지 연구해야 한다고 명문화했다. 아울러 AI가 사람의 일자리를 빼앗을 것이란 우려가 큰 만큼 노동자의 피해를 줄이기 위한 해법을 마련해야 한다는 내용도 포함됐다.

규제만 담긴 건 아니다. AI 개발 촉진을 위해 △건강·기후변화 등 중요 분야에 대한 AI 연구 보조금 확대 △소규모 개발자·기업가 지원 △고숙련 이민자, 전문성을 가진 비이민자가 미국에서 공부하고 일할 기회를 확대하기 위한 비자 기준 간소화 등 조치도 요구했다.

'AI 정상회담' 이틀 앞두고... '규제 주도' 나선 미국

이번 행정명령은 다음 달 1일 영국에서 열리는 'AI 안전 정상회의'를 이틀 앞두고 나왔다. AI 개발 분야에서 미국·중국 등에 뒤처진 영국이 '규제 논의'만큼은 주도하겠다는 목표로 추진한 세계 첫 AI 정상회담인데, 사실상 미국이 규제 발표를 선수 친 셈이다. 미국이 AI 규제 분야도 다른 나라에 주도권을 내주지 않겠다는 메시지를 발신한 것이라는 해석이 나온다. 카멀라 해리스 미 부통령도 이날 "우리가 국내에서 취한 조치가 국제적 조치의 모델이 될 것"이라며 일종의 AI 가이드라인이 되길 바란다는 뜻을 분명히 했다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com