유튜브 딥페이크 성착취물 경고 없이 삭제…합성 영상 AI라벨 붙여야

사실적 폭력 묘사 등 가이드라인 위반은 합성 여부 관계 없이 제재

(서울=뉴스1) 김승준 기자 = 시청자가 딥페이크 등 인공지능(AI)을 이용한 합성 영상인지 아닌지 알 수 있도록 유튜브 정책이 변경된다.

유튜브는 14일(현지시간) 공식 블로그에 생성형 AI 활용 콘텐츠 정책 추진 방향을 발표했다.

유튜브는 "생성형 AI는 창의력을 발휘하고 시청자와 제작자의 경험을 변화시킬 수 있는 잠재력이 있지만 책임과 균형을 이뤄야 한다"며 "앞으로 몇 달에 걸쳐 콘텐츠가 합성 콘텐츠인지 알려주는 업데이트를 도입할 예정"이라고 밝혔다.

이에 따라 제작자는 AI를 활용한 콘텐츠 여부를 공개해야 한다. 유튜브는 업로드할 때 이런 표시를 할 수 있는 라벨 기능을 도입할 예정이다.

유튜브는 "이런 조치는 콘텐츠가 선거, 지속적인 갈등, 공중 보건 위기 등을 다룰 때 특히 중요하다"며 "지속해서 AI 합성 여부 정보를 공개하지 않는 제작자는 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등 제재를 받을 수 있다"고 설명했다.

아울러 성 착취물, 사실적 폭력 묘사 등 커뮤니티 가이드라인 위반 게시물은 합성 여부 공개와 관계없이 삭제되고 있다. 딥페이크를 이용한 AI 성착취물 등도 경고없는 삭제 대상에 포함된다.

목소리나 얼굴을 당사자 허가 없이 AI에 학습시켜 만들어진 콘텐츠의 삭제를 요청하는 절차도 마련될 예정이다. 다만 모든 요청이 삭제로 이어지지는 않는다.

유튜브는 "(삭제 및 제재) 요청을 평가할 때 콘텐츠가 패러디나 풍자인지 등을 고려할 수 있다"고 덧붙였다.

seungjun241@news1.kr

IT/과학