“자기 얼굴로 만들면 이상하게 안하겠지”…딥페이크 범죄 예방 접근방법 바꾼 빅테크

유튜브, 얼굴·목소리 기반 숏폼 예고
타인 복제·딥페이크는 기술적 차단
오픈AI는 통제 가능한 캐릭터 방점

유튜브는 크리에이터가 자신의 얼굴과 목소리를 학습시킨 AI 버전을 활용해 숏폼 콘텐츠를 제작할 수 있는 기능을 추가한다고 밝혔다.

빅테크들이 생성형 인공지능(AI)을 활용한 창작 도구를 확대하면서도 무분별한 타인 복제나 딥페이크 논란을 최소화하기 위한 ‘안전한 창작’ 유도에 나서고 있다. 제3자 얼굴과 목소리를 활용한 AI 생성물이 사회적 문제로 부상하자 타인보다는 ‘나’ 자신을 부각하는 AI를 중심으로 기능을 확대하는 모습이다.

25일(현지시간) 정보기술(IT) 전문매체 테크크런치에 따르면 유튜브는 최근 크리에이터가 자신의 얼굴과 목소리를 학습시킨 AI 버전을 활용해 숏폼 콘텐츠를 제작할 수 있는 기능을 예고했다. 가상 캐릭터나 허구 인물을 앞세우기보다 창작자의 실제 정체성을 녹여 AI를 활용하도록 한 것이다.

닐 모한 유튜브 최고경영자(CEO)는 연례 서한에서 “올해 크리에이터들은 자신의 모습을 활용한 단편 영상을 제작하고, 간단한 텍스트 프롬프트로 게임을 만들고, 음악을 실험해 볼 수 있을 것”이라고 밝혔다.

유튜브는 이 기능의 구체적인 형태는 아직 공개하지 않았지만 AI 클립 생성, AI 스티커, AI 자동 더빙 등 기존 쇼츠용 AI 도구에 추가되는 형태가 될 전망이다.

이렇듯 유튜브는 크리에이터가 자신의 모습을 활용한 창작은 권장하는 반면, 타인이 이를 악용하는 행위는 기술적으로 차단하고 있다. 유튜브는 지난해 10월 크리에이터의 얼굴과 목소리 등을 모방한 AI 생성 콘텐츠를 식별하는 유사성 감지 기술을 제공하기 시작했다. 해당 기능을 활용하는 크리에이터는 자신의 외모나 음성을 무단 활용한 콘텐츠에 대해 삭제를 요청할 수 있다.

지난해 플랫폼을 통해 유명인 얼굴이나 목소리를 무단 활용한 콘텐츠가 확산되며 사회적 논란이 불거졌고, 이에 대해 기업의 책임을 요구하는 목소리가 커지자 대응책을 마련한 것이다.

오픈AI 역시 비슷한 방향으로 가고 있다. 오픈AI가 지난해 출시한 영상생성 AI 플랫폼 ‘소라(Sora)’는 전 세계적으로 돌풍을 일으켰는데, 그 중에서도 특히 주목받은 기능은 사용자가 자신의 얼굴·음성 등을 업로드해 AI가 생성한 영상에 반영하는 ‘카메오(Cameo)’ 기능이었다.

오픈AI는 이 기능을 출시하면서 사용자가 자신의 유사성을 처음부터 끝까지 직접 관리할 수 있도록 설계됐음을 강조했다. 사용자만이 자신의 카메오를 사용할 수 있으며, 카메오가 포함된 영상은 언제든지 접근 권한을 철회하거나 삭제할 수 있다는 것이다. 다른 이용자가 만든 초안에 자신의 카메오가 포함된 경우에도 해당 영상을 사용자가 언제든지 볼 수 있도록 했다.

반면 제3의 인물이나 캐릭터에 대해서는 보다 엄격한 통제 방침을 적용하고 있다. 지난해 소라 출시 직후 국내외에서 각종 저작권·초상권 논란이 불거지자 샘 올트먼 오픈AI 최고경영자(CEO)는 “캐릭터 생성에 대해 보다 세밀한 제어 권한을 부여하겠다”며 여러 차례 관련 정책을 보완한 바 있다.