유튜브, 딥페이크 표시 의무화한다…위반시 삭제·수익차단

업로드 시 AI 변형·생성 여부 체크해야…위반시 삭제
AI 가짜뉴스, 선거·전쟁 등서 파급력 더 커지는 상황
딥페이크·AI 커버 삭제 요청 받는다…풍자 삭제 예외

유튜브. (사진=AFP)

[이데일리 한광범 기자] 유튜브는 영상을 올릴 때 AI를 이용한 변환·생성 콘텐츠 포함 여부를 반드시 표시하도록 할 예정이다. 이렇게 올린 영상에는 ‘생성·합성 여부’가 표시된다. 또 타인의 얼굴·음성을 이용한 딥페이크의 경우 신고를 받아 심사를 통해 삭제한다. 다만 풍자 콘텐츠나 유명인 관련 딥페이크의 경우 더 까다로운 조건이 적용된다.

유튜브는 16일 공식 블로그를 통해 “AI의 강력하고 새로운 형식의 스토리텔링은 혼동을 야기할 수 있는 콘텐츠를 생성하는 데에 이용될 가능성이 있다”며 “이러한 우려에 대응하기 위해 앞으로 몇 달에 걸쳐 유튜브 시청자가 합성된 콘텐츠를 시청할 때 이를 알려주는 업데이트를 도입한다”고 밝혔다.

구체적으로 보면 유튜브에서 콘텐츠 업로드에 변형이나 합성된 내용이 포함됐는지 여부를 표시하는 옵션이 추가된다. AI를 이용해 일어나지 않은 사건을 사실적으로 묘사하는 영상이나, 누군가 하지 않은 말이나 행동을 보여주는 콘텐츠가 모두 해당된다.

최근 뜨거운 논란이 되고 있는 전쟁이나 정치 관련 콘텐츠가 모두 포함된다. 실제 미국 선거나 최근 벌어지고 있는 일련의 전쟁과 관련해 AI 변형·생성 영상은 가짜뉴스에 활용되며 엄청난 파급력을 일으키는 것을 심심치 않게 볼 수 있었다.

유튜브도 “선거, 진행 중인 분쟁, 공중 보건 위기, 공직자와 같은 민감한 주제를 다루는 콘텐츠에 있어 특히 중요하다”고 설명했다.

(좌) 설명 패널에 라벨이 추가된 예시, (우) 동영상 플레이어에 라벨이 추가된 예시

유튜브의 규정에도 불구하고 변형·합성 여부를 알리지 않는 이용자에 대해선 콘텐츠 삭제는 물론 유튜브 파트너 프로그램 정지를 통한 수익창출 차단 등의 페널티를 부여한다.

유튜브는 변형·합성 가능성이 있는 콘텐츠에 라벨링으로 이를 표시할 예정이다. 콘텐츠 설명란에서 이를 안내하거나, 동영상 플레이어에 더욱 눈에 띄는 라벨을 적용하는 방식이 적용된다. 혐오감을 불러일으킬 수 있는 변형·콘텐츠의 경우엔 삭제도 가능하다.

딥페이크로 피해를 본 당사자들이 신고를 한 경우 심사를 통해 삭제 조치도 이뤄지게 된다. AI로 생성되거나 합성·변형된 콘텐츠로 개인을 모방한 경우에 한해 신고가 가능하다. 다만 신고에도 불구하고 패러디나 풍자, 신고자 식별 가능 여부, 공직자나 유명인 등장 여부 등에 따라 더 삭제가 더 까다로워진다.

AI로 유명 아티스트 목소리를 이용한 음악 커버 영상의 경우도 삭제 요청이 가능해진다. 삭제 여부 결정에는 해당 콘텐츠가 뉴스로 보도되거나 콘텐츠 속 음성이 분석 또는 비평의 대상이 되는지 등 다양한 요소가 고려된다고 유튜브는 설명했다.

유튜브는 “생성형 AI를 활용하면 AI 분류기가 학습하는 정보 세트를 빠르게 확장할 수 있어 규정 위반 콘텐츠를 훨씬 더 신속하게 식별하고 포착할 수 있다”며 “시스템의 속도와 정확성이 개선되면 노출되는 유해 콘텐츠의 양도 줄어든다”고 밝혔다. 그러면서 “새로운 전환점에서 유튜브는 AI 기술이 제공하는 이점과 커뮤니티의 지속적인 안전 보장 사이에서 균형을 맞추기 위해 노력하고 있다”고 덧붙였다.

한광범 (totoro@edaily.co.kr)