첨단 AI 안전성 테스트 결과, 정부와 공유…美 AI 규제안 공개

AI 생성 콘텐츠엔 워터마크 부착해야
"새로운 기업, 시장 진입 저해" 우려도
"내가 언제 저런 말 했지" 바이든, 자기 딥페이크 본 경험 소개

[이데일리 박종화 기자] 미국 바이든 행정부가 인공지능(AI) 안전성 확보를 위한 행정명령을 내놨다. 첨단 AI에 대한 안전성 시험 결과를 미국 정부에 공유하도록 하는 게 핵심이다. AI 규제 법규 마련을 위한 각국 움직임이 점점 빨라지고 있다.

바이든 “위험 없이 AI 잠재력 실현하려면 통제해야”

30일(현지시간) 파이낸셜타임스(FT) 등에 따르면 백악관은 AI 안전성 확보를 위한 행정명령을 이날 공개했다. 조 바이든 대통령은 “AI의 잠재력을 실현하면서 위험을 피하려면 이 기술을 통제하는 것 외에는 방법이 없다”고 말했다. 바이든은 자신이 나온 딥페이크(AI를 이용해 만든 진짜 같은 가짜 이미지·영상)를 보고 “내가 언제 그런 말을 했지”라고 자문한 적이 있다고 자신의 경험도 소개했다.

이번 행정명령에서 눈에 띄는 건 국가 안보나 경제 안보 등에 심각한 영향을 줄 수 있는 첨단 AI를 개발할 때 안전성 테스트 결과를 정부와 공유하도록 하는 조항이다. 첨단 AI에 대해선 기업이 민감하게 여길 수 있는 부분까지 정부가 파악하겠다는 뜻이다. AI가 생물학적 무기나 핵무기 제조에 악용될 수 없다는 걸 입증해야 한다는 내용도 안전성 테스트 항목에 포함됐다.

또한 AI 생성 콘텐츠에 워터마크를 부착하도록 하는 지침도 마련하기로 했다. AI가 만든 정교한 사진이나 영상이 사기나 가짜뉴스 등에 악용되는 걸 막기 위해서다. 특히 내년 대선을 앞두고 미국에선 AI를 악용한 가짜뉴스 범람이 우려되는 상황이었다. AI를 이용한 차별 방지, AI 관련 개인정보보호 규정 정비, 독점 방지 및 경쟁 촉진 등도 이번 행정명령에 포함됐다. 행정명령은 앞으로 90일 내에 발효할 예정이다. 바이든 행정부는 장기적으로 이번 행정명령을 뒷받침할 수 있는 AI 규제 법률 제정도 준비하고 있다.

브래드 스미스 마이크로소프트(MS) 부회장은 이번 행정명령에 대해 “AI 거버넌스에서 또 다른 중요한 진전”이라고 평가했다. 반면 테크기업 단체인 넷초이스는 “새로운 기업·(기성기업의)경쟁사가 시장에 진입하는 걸 막고 미국의 (기술) 혁신에서 연방정부의 힘을 크게 키울 것”이라고 우려했다.

中·英·EU도 AI 규제 잰걸음

이번 행정명령은 오는 1~2일 영국에서 열리는 AI 안보 정상회의 이틀 전에 나왔다. AI 안보 정상회의에는 영국, 미국, 중국 등 주요국 대표는 물론 구글, 오픈AI, MS, 삼성전자(005930), 네이버 등 AI 업계 주요 기업들도 참석한다. AI 윤리와 사이버 안보, AI발(發) 가짜뉴스 등이 논의될 예정인데 AI 규제를 단독 주제로 각국 정부와 기업이 한자리에 모이는 건 이번이 처음이다.

최근 미국과 영국뿐 아니라 각국은 AI 관련 규제 마련에 잰걸음을 하고 있다. AI 산업이 빠르게 성장하면서 기존 법규로는 제대로 된 관리가 어려울뿐더러 규제를 통해 신산업 표준을 선점하기 위해서다. 중국은 지난 7월 발표한 ‘생성형 AI 산업 관리 규정’을 통해 생성형 AI 제품을 출시하기 전 당국에서 사전 보안 평가를 받도록 했다. 유럽의회도 AI 학습 데이터 공개, 불법 콘텐츠 제작 방지 기능 구비 등 내용을 담은 AI법 초안을 지난 6월 의결했다.

바이든 행정부 고위관계자는 “EU와 AI 규제 마련 경쟁을 하고 있지 않다”면서 “이번 행정명령을 준비하며 EU와 폭넓게 소통했다”고 FT에 설명했다.

박종화 (bell@edaily.co.kr)