`AI 제작 콘텐츠 표기 의무화` 추진…콘텐츠산업법 일부개정안 발의돼

이상헌 더불어민주당 의원이 대표발의한 콘텐츠산업진흥법 일부개정법률안의 신구조문대비표. 이상헌 의원실 제공

국회 문화체육관광위원회 소속 이상헌 더불어민주당 의원은 AI(인공지능)를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 대표발의했다고 22일 밝혔다.

챗GPT, 미드저니 등 생성형AI 기술이 빠른 속도로 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 제기되고 있다. 최근 소셜미디어(SNS)에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습을 담은 사진이 화제가 됐는데, 이는 AI를 이용해 만든 허위 이미지다. 지난 13 일 트럼프 전 미국 대통령은 CNN 앵커가 바이든 대통령을 비난하는 영상을 자신의 소셜미디어 계정에 올렸으나, 이 또한 AI로 만든 가짜 영상으로 밝혀졌다.

이처럼 생성형AI가 만들어내는 이미지·영상·음성 등이 갈수록 정교해지고 있어 사용자들이 그 진위를 쉽게 파악할 수 없게 됐다. AI발(發) 허위 콘텐츠에 따른 혼란을 막기 위해서는 제도적 개선이 시급하다는 의견이 다수 제기됐다 .

이상헌 의원이 발의한 이번 콘텐츠산업법 일부개정안은 텍스트·이미지·음악 등 콘텐츠가 AI기술을 이용해 만들어졌을 경우, 해당 콘텐츠가 AI기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다. 사용자들이 진위 여부를 알 수 있게 함으로써 사회적 혼란을 방지하기 위함이다.

이상헌 의원은 "AI기술 발전 속도가 지나치게 빨라지면서 오·남용으로 인한 부작용이 우려되고 있다. 현재 EU에서는 AI가 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의돼있는 상황"이라며 "우리나라도 AI 오·남용을 막기 위한 관리 방안을 마련해 AI시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.팽동현기자 dhp@dt.co.kr