중국, 'AI 제작 콘텐츠' 표시 의무화 규정 초안 발표

중국이 인공지능(AI)으로 제작된 콘텐츠에 이를 표시하고 식별할 수 있도록 의무화하는 규정 초안을 발표했다고 홍콩 사우스차이나모닝포스트(SCMP)가 보도했습니다.

중국 당국이 현지시간 14일 공개하며 한 달간의 의견 수렴에 들어간 해당 초안은 AI로 만들어진 콘텐츠의 제작, 전시, 배포 기간에 'AI로 제작'한 사실을 분명히 밝혀야 한다고 규정했습니다.

온라인 콘텐츠 제공자들은 문자, 영상, 오디오, 가상화면 등 AI로 만든 모든 콘텐츠에 대해 문자, 음성, 그래픽 같은 눈에 띄는 표시로 이를 알려야 합니다.

아울러 디지털 워터마크나 메타데이터 태그 같은 좀 더 정교한 표식을 사용하는 것도 권장됩니다.

해당 초안은 어떠한 단체나 개인도 악의적으로 해당 필수 표시를 삭제, 변조, 위조, 은폐해서는 안 되며, AI로 만든 콘텐츠에 대한 부적절한 식별로 다른 이들의 권리와 이익을 침해해서도 안 된다고 못박았습니다.

또 온라인 콘텐츠 플랫폼들은 자신들이 배포하는 모든 AI 제작 콘텐츠를 규제해야 한다고 밝혔습니다.

중국 인터넷정보판공실은 해당 규정 초안이 AI를 활용해 콘텐츠를 만들고 대중에 서비스를 제공하는 산업조직, 기업, 교육·과학 연구소, 공공문화기관, 전문기관에 적용된다고 설명했습니다.

그러면서 해당 규정은 국가안보와 공공이익을 수호하고 인민과 단체의 합법적 권리와 이익을 보호하기 위한 것이라고 덧붙였습니다.

해당 규정은 지난해 1월 시행된 '인터넷 정보 서비스 딥 합성 관리 규정' 등에 기반해 만들어졌습니다.

딥페이크(deepfake)를 규제하는 '인터넷 정보 서비스 딥 합성 관리 규정'은 딥 합성 서비스 제공자와 이용자가 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 분명히 밝히고 원본을 추적할 수 있도록 해야 한다는 내용입니다.

딥페이크는 어떤 인물의 얼굴이나, 특정한 부위, 목소리를 다른 사람으로 바꿔치기하거나 조작하는 기술입니다.

당시 중국은 이를 발표하며 "딥 합성의 무분별한 개발과 이용은 온라인 사기와 명예훼손 등 범죄 행위로 이어질 수 있어 우려된다"고 밝혔습니다.

그러면서 딥 합성 기술을 'AI의 딥러닝이나 증강 현실을 활용해 텍스트, 이미지, 영상, 오디오를 만들어내거나 조작하는 기술'이라고 규정했습니다.

중국은 이어 지난해 8월에는 '생성형 AI 서비스 관리 임시규정'을 시행했습니다.

생성형 AI 서비스 제공자들은 당국에 서비스를 등록하고 제품 출시 전 보안 평가를 수행해야 하며, 중국에서 제공되는 AI 서비스는 중국의 사회주의 가치에 부합해야 한다는 내입니다.

AI 제작 콘텐츠를 이용한 가짜뉴스, 사기 등이 세계적으로 문제가 되면서 유럽연합(EU), 미국 등에서도 관련 규정을 검토·도입하고 있습니다.

신승이 기자 seungyee@sbs.co.kr