“정부 비판 막으려고”… 中, 내일부터 ‘딥페이크’ 세계 첫 규제

셔터스톡

중국이 세계 주요국 가운데 처음으로 ‘딥페이크’ 기술을 규제한다.

8일 미국 월스트리트저널(WSJ)는 중국 국가사이버정보판공실(CAC)이 10일부터 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 시행한다고 보도했다. 인공지능(AI) 기술을 이용해 인물 사진이나 영상, 오디오를 합성하는 딥페이크 기술로 허위 정보를 퍼뜨리거나 범죄 등에 이용하는 것을 막겠다는 취지다. 최근 몇 년 새 딥페이크 기술의 악의적 사용에 따른 피해가 잇따르며 국내외에서 이에 대한 규제 논의가 한창이다.

WSJ에 따르면 이 규정은 대표적으로 ‘가짜 뉴스’나 경제 및 국가안보를 어지럽힐 것으로 예상되는 정보 확산을 위해 AI가 만들어낸 콘텐츠 사용을 금지한다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 콘텐츠에 ‘딥페이크 기술이 사용됐다’는 사실을 적시해야 하고, 원본을 추적할 수 있도록 디지털 표식(워터마크)을 넣도록 했다. 딥페이크 기술로 누군가 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의를 구해야 한다. 또 언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있게 했다.

WSJ는 규제 범위가 매우 넓어 규정 적용 여부를 놓고 규제 당국이 자의적으로 해석할 여지를 준다고 지적했다. 미 컨설팅 업체 올브라이트 스톤브릿지 기술정책책임자 폴 트리올로는 미 CNBC방송에 “중국이 반체제 여론을 막기 위해 열심이다”라고 분석했다. 이 규정으로 소셜미디어 등에서 딥페이크 기술을 활용해 정부 정책을 풍자하거나 비판하는 행위를 규제할 수 있다는 애기다.

다만 트리올로는 “신기술이 유발하는 문제 해결을 위해 다른 나라에서 하지 않은 조치를 중국이 시도하고 있다”며 긍정적인 측면도 있다고 말했다. 미국에서는 딥페이크 규제 시도가 언론 자유를 침해할 우려 때문에 진전을 보이지 못하고 있다. 유럽연합(EU)에서는 플랫폼 기업들에 딥페이크 기술의 허위정보 확산 능력을 완화하는 방법을 찾도록 강력히 권고할 뿐 중국처럼 아예 금지하지는 않고 있다. 트위터 페이스북 등 소셜미디어는 최근 딥페이크를 활용한 허위정보를 가려내는 규정을 도입했다.

이청아 기자 clearlee@donga.com