유튜브, 딥페이크 콘텐츠 식별·감지 기술 도입한다

크리에이터·아티스트 보호하는 새로운 도구 공개
유명인 얼굴 합성한 콘텐츠 감지하는 기술 개발 중
가수 노래 목소리 모방한 AI 콘텐츠도 자동 감지
"AI로 생성한 창작물도 커뮤니티 가이드 준수해야"

[서울=뉴시스] 안호균 기자 = 유튜브가 생성형 인공지능(AI) 기술로 특정인의 얼굴이나 목소리를 합성해 만든 딥페이크(deepfake) 콘텐츠에 대한 검열을 강화한다.

유튜브는 지난 6일 공식 블로그를 통해 "크리에이터와 파트너들을 보호하는 동시에 새로운 기회를 제공할 새로운 '라이크니스' 관리 기술을 개발했다"고 밝혔다.

먼저 유튜브는 크리에이터, 배우, 음악가, 운동선수 등 다양한 분야의 사람들이 플랫폼 내에서 자신의 얼굴을 나타낸 AI 생성 콘텐츠를 감지하고 관리할 수 있는 새로운 기술을 개발 중이다. AI가 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구가 될 것으로 예상하고 있다.

또 합성된 노래를 식별할 수 있는 새로운 기술도 개발했다. 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있게 된다. 현재 파트너들과 함께 이 기술을 개선하고 있으며, 내년 초 파일럿 프로그램을 내놓을 계획이다.

이 기능이 도입되면 AI 기술로 특정인의 얼굴이나 목소리를 합성해 콘텐츠를 만드는 행위는 유튜브 내에서 상당한 제약을 받게될 것으로 보인다.

AI 기술을 이용해 다른 크리에이터의 콘텐츠를 무단으로 사용하는 것도 엄격히 통제될 전망이다.

유튜브는 "허가받지 않은 접근을 탐지하고 방지하는 시스템에 대한 투자를 지속하는 한편, 무단으로 콘텐츠를 활용하는 사람들의 접근을 차단하고, 제 3자가 이러한 약관을 준수하도록 하기 위한 조치를 계속 이어 나갈 것"이라고 밝혔다.

암자드 하니프 유튜브 크리에이터 프로덕트 부문 부사장은 "유튜브의 모든 콘텐츠와 마찬가지로 AI로 생성한 창작물도 유튜브의 커뮤니티 가이드를 준수해야 한다"며 "이는 유튜브의 정책을 위반하거나 민감한 주제를 다루는 프롬프트(prompt)를 차단할 수 있음을 의미한다"고 설명했다.

그는 "유튜브의 주요 목표는 창의성을 강화하는 것이지만, 크리에이터들이 AI로 생성한 콘텐츠를 게시할 때에도 다른 콘텐츠와 마찬가지로 주의 깊게 검토할 것을 권장한다"며 "초기에는 시행착오가 있을 수 있다는 것을 알고 있기에 크리에이터들의 소중한 피드백을 수렴하고자 한다"고 덧붙였다.

☞공감언론 뉴시스 ahk@newsis.com