"딥페이크 막으려면, AI생성물 표시 의무화"

'콘텐츠진흥법 개정안' 공청회
문체부, 제도개선 의견수렴

생성형 인공지능(AI) 기술의 무분별한 범람이 자칫 기술을 인간의 동료가 아닌 적(敵)으로 만든다. 글로벌 팝스타 테일러 스위프트의 얼굴을 AI로 합성한 딥페이크 음란물이 무차별적으로 유포된 건 단편적인 예다.

AI발 권리 침해를 막고 기술의 사회적 책임성과 투명성을 높이기 위한 규제 법제화 논의가 30일 국회에서 열렸다. 현재 국회에 계류 중인 AI 산출물의 표시를 의무화하는 콘텐츠산업진흥법 개정안(이상헌 더불어민주당 의원 대표발의)이 중심이다. 해외에서도 미국·프랑스 등에서 아직 입법안만 나와 있지 제정 사례가 없다. 유럽연합(EU)의 입법안은 플랫폼 기업에 AI 생성물 표시 의무를 부과했다. 구글·어도비·틱톡 등 콘텐츠·플랫폼 기업들은 자체적으로 AI 생성 이미지·영상에 워터마크나 이력 정보를 표시하는 기술을 도입하고 있다.

다만 제도화할 땐 표시 범위, 방법, 제재 수단 등을 놓고 다양한 고려 사항이 쟁점으로 남아 있다. 현재 계류 중인 법안은 세부 내용을 대통령령으로 위임해뒀다. 이대희 고려대 법학전문대학원 교수는 "표현의 자유와 경제활동에 대한 위축은 지양해야 한다"며 "생성물이 소비자를 속이지 않거나 창작 과정에서 단순 도구로만 쓰인 경우엔 표시할 필요가 없을 수도 있다. 융통적 접근도 필요하다"고 짚었다. 김경화 문화체육관광부 과장은 "올해 관련 실무단(워킹그룹)을 가동해 제도 개선 방안에 관한 의견 수렴에 나설 것"이라는 방침을 전했다.

창작자들은 저작물이 AI 학습 데이터로 활용되는 이른바 'TDM(텍스트·데이터 마이닝)' 면책 조항에 대한 반대 목소리를 높였다. 토론에 참여한 권혁주 한국웹툰작가협회장은 "웹툰 작가들은 AI에 의한 그림과 일러스트의 잠재적 도용을 우려하고 있다"며 "모든 인공지능은 학습 데이터의 출처를 명확히 밝혀야 한다"고 강조했다.

최민재 한국언론진흥재단 수석연구위원은 AI 표시 의무화에 대해 "나쁘게 말하면 AI에 대한 규제지만 좋게 말하면 저작권자에 대한 보호"라고 짚었다. 이어 TDM 면책 논란에 대해 "현재 발생하는 언론·콘텐츠 업계와 생성형 AI 플랫폼과의 분쟁은 AI 플랫폼들이 기존 콘텐츠 생태계의 가장 핵심적인 토대인 지식재산권 등을 토대로 한 생태계 운영의 규칙을 인정하고 있지 않기 때문"이라며 "단순히 콘텐츠 산업의 생존 문제만이 아니라 사회적 정보유통 과정에도 심각한 영향을 미칠 것"이라고 우려했다.

[정주원 기자]