“정부 비판 막으려고”… 中, 내일부터 ‘딥페이크’ 세계 첫 규제

이청아 기자 2023. 1. 9. 17:26
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

중국이 세계 주요국 가운데 처음으로 '딥페이크' 기술을 규제한다.

이 규정으로 소셜미디어 등에서 딥페이크 기술을 활용해 정부 정책을 풍자하거나 비판하는 행위를 규제할 수 있다는 애기다.

유럽연합(EU)에서는 플랫폼 기업들에 딥페이크 기술의 허위정보 확산 능력을 완화하는 방법을 찾도록 강력히 권고할 뿐 중국처럼 아예 금지하지는 않고 있다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

셔터스톡
중국이 세계 주요국 가운데 처음으로 ‘딥페이크’ 기술을 규제한다.

8일 미국 월스트리트저널(WSJ)는 중국 국가사이버정보판공실(CAC)이 10일부터 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 시행한다고 보도했다. 인공지능(AI) 기술을 이용해 인물 사진이나 영상, 오디오를 합성하는 딥페이크 기술로 허위 정보를 퍼뜨리거나 범죄 등에 이용하는 것을 막겠다는 취지다. 최근 몇 년 새 딥페이크 기술의 악의적 사용에 따른 피해가 잇따르며 국내외에서 이에 대한 규제 논의가 한창이다.

WSJ에 따르면 이 규정은 대표적으로 ‘가짜 뉴스’나 경제 및 국가안보를 어지럽힐 것으로 예상되는 정보 확산을 위해 AI가 만들어낸 콘텐츠 사용을 금지한다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 콘텐츠에 ‘딥페이크 기술이 사용됐다’는 사실을 적시해야 하고, 원본을 추적할 수 있도록 디지털 표식(워터마크)을 넣도록 했다. 딥페이크 기술로 누군가 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의를 구해야 한다. 또 언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있게 했다.

WSJ는 규제 범위가 매우 넓어 규정 적용 여부를 놓고 규제 당국이 자의적으로 해석할 여지를 준다고 지적했다. 미 컨설팅 업체 올브라이트 스톤브릿지 기술정책책임자 폴 트리올로는 미 CNBC방송에 “중국이 반체제 여론을 막기 위해 열심이다”라고 분석했다. 이 규정으로 소셜미디어 등에서 딥페이크 기술을 활용해 정부 정책을 풍자하거나 비판하는 행위를 규제할 수 있다는 애기다.

다만 트리올로는 “신기술이 유발하는 문제 해결을 위해 다른 나라에서 하지 않은 조치를 중국이 시도하고 있다”며 긍정적인 측면도 있다고 말했다. 미국에서는 딥페이크 규제 시도가 언론 자유를 침해할 우려 때문에 진전을 보이지 못하고 있다. 유럽연합(EU)에서는 플랫폼 기업들에 딥페이크 기술의 허위정보 확산 능력을 완화하는 방법을 찾도록 강력히 권고할 뿐 중국처럼 아예 금지하지는 않고 있다. 트위터 페이스북 등 소셜미디어는 최근 딥페이크를 활용한 허위정보를 가려내는 규정을 도입했다.

이청아 기자 clearlee@donga.com

Copyright © 동아일보. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?