"가짜뉴스 막아라!" 구글·메타도 'AI 콘텐츠' 단속 고삐…국내는?

저작권침해·금융사기 등 위험 급격히 증가
美·EU 식별표시 의무화…국내도 연내 추진

[아이뉴스24 윤소진 기자] 인공지능(AI)으로 제작한 음악, 영상 콘텐츠의 저작권 침해, 딥페이크를 활용한 가짜뉴스 성행 등 각종 부작용 위험이 커지면서 글로벌 빅테크들 중심으로 AI 제작물 표시를 의무화하려는 움직임이 본격화하고 있다.

AI 이미지 생성 서비스 마이크로소프트 디자이너에서 '구글이 AI콘텐츠를 단속하는 모습'이라는 명령어로 생성한 이미지. [사진=윤소진 기자]

5일 업계에 따르면 최근 아이유가 부른 '밤양갱', 임재범이 부른 '하입보이' 등 AI 커버곡이 인기를 끌자, 유튜브는 즉각 대응에 나섰다. AI콘텐츠에 영향을 받는 당사자가 개인정보 침해를 근거로 콘텐츠 삭제를 요청할 수 있도록 한 것이다.

구글은 오는 11월 미국 대선을 앞두고 AI를 활용한 선거광고를 의무적으로 알리도록 조치했다. 선거 광고에서 실제 혹은 실제처럼 보이는 사람이나 이벤트를 묘사하려고 디지털 방식으로 변경된 콘텐츠를 사용한 경우 반드시 이용자들이 바로 알 수 있도록 표시해야 한다.

메타는 지난 5월부터 AI가 생성한 콘텐츠에 라벨을 표시하는 제도를 운용하고 있다. 현재 리터칭 도구 등 AI를 활용해 약간의 수정이 포함된 일부 콘텐츠라도 모두 'AI 인포'라는 라벨이 붙는다.

오픈AI는 DALL-E와 같은 이미지 생성 모델에서 만들어진 이미지에 워터마크를 삽입하는 기술을 개발했다. DALL·E 이미지 생성기에서는 콘텐츠가 AI에 의해 생성됐음을 표시하고 있다. 오픈AI는 현재 이러한 식별 표시를 위변조할 수 없도록 워터마크 삽입 기술을 고도화하는 중이다.

글로벌에선 국가 차원의 규제도 발 빠르게 이뤄지고 있다. 미국은 이미 지난해 AI 생성물에 워터마크 표시를 의무화했다. 유럽연합의 'AI법(AI ACT)'도 워터마크 표시 의무는 물론, AI 생성 콘텐츠의 투명성을 강조하고 있다.

중국 역시 생성 AI 서비스에 대한 표시를 의무화하고 있다. 예를 들어, 오디오 워터마크는 특정 구간마다 포함돼야 하며, AI로 생성된 콘텐츠 파일에는 서비스 제공자와 시간, 콘텐츠 ID 등의 정보를 담은 데이터를 포함해야 한다.

최근 들어 국내에서도 딥페이크, 딥보이스를 활용한 금융 사기 등 AI 관련 범죄가 기하급수적으로 늘자 관련 규제의 필요성이 커지고 있지만 AI 생성 콘텐츠에 대한 투명성과 관련된 법적 기준이나 자율 기준이 부족한 실정이다. 이는 이용자들이 콘텐츠의 신뢰성을 판단하는 데 있어 혼란을 야기할 수 있는 요소로 작용할 수 있다.

이에 정부도 AI 제작물에 워터마크(불법복제 방지를 위한 이미지) 표시를 의무화하기로 했다. 특히 딥페이크 탐지·식별 기술을 개발해 가짜뉴스 대응 체계를 구축한다는 방침이다. 정부는 유관부처와 이 같은 내용을 담은 디지털 질서 정립 계획을 추진 중이다. 생성형 AI로 인한 저작권 분쟁에 대응하기 위해 저작권 제도도 정비한다.

제22대 국회도 'AI 기본법' 재추진에 나섰다. 이밖에 김승수 국민의힘 의원은 AI로 만든 딥페이크 콘텐츠 식별표시를 의무화하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률' 일부개정안을 발의했다.

/윤소진 기자(sojin@inews24.com)