[멋진 신세계, AI]①유튜브 본사 임원을 만나 딥페이크와 싸움에서 이길 수 있을지 물었습니다

생성형 AI의 급격한 발전으로 AI로 만든 딥페이크와 가짜 뉴스는 세계 곳곳에서 혼란을 가중시키고 있습니다.

올해 노벨상을 받은 AI 대부 제프리 힌튼 교수는 AI 통제 불능 가능성을 언급하며 대책이 필요하다고 강조하는 등 자칫 인류가 AI에 대한 통제권을 잃을 수 있다는 불안감이 고조되고 있습니다.

AI 개발을 주도하는 빅테크 회사들에 대한 비판도 커지고 있습니다.

생성형 AI기술 개발을 주도하는 빅테크들도 대책 마련에 나섰습니다.

이들이 어떻게 AI 생성물을 통제하는지 묻기 위해 세계 최대 동영상 유통 플랫폼인 유튜브 본사를 찾았습니다.

유튜브의 콘텐츠 정책을 총괄하는 트러스트 & 세이프티 팀의 제니퍼 플래너리 오코너 프로덕트 매니지먼트 부사장은 갈수록 높아지는 AI에 대한 관심으로 더 큰 책임감을 느끼고 있다고 말했습니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 유튜브는 AI에 큰 기대를 걸고 있지만, 동시에 위험을 수반한다는 사실을 현실적으로 인지하고 있으며, 사용자와 사회에 대한 책임감을 갖고 이러한 위험에 대해 매우 깊이 고민하고 있습니다.]

제니퍼 부사장은 유튜브 크리에이터 10명 중 9명이 AI 도구를 사용하고 있다는 설문 결과를 언급하며, 유튜브 역시 유해한 영상을 막기 위해 AI를 활용한다고 밝혔습니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 유튜브의 트러스트 & 세이프티(Trust & Safety) 팀에서는 시청자에게 유해한 콘텐츠가 노출되지 않도록 머신 러닝에 특히 집중하고 있습니다. 사람들이 AI를 이용해서 저희 일을 더 어렵게 만드는 영상을 만들 수도 있지만, 유튜브 역시 AI를 활용해서 유해한 영상에 맞서 싸우고 있습니다.]

영상 업로드와 동시에 폭력, 음란물 등 유해 영상 여부를 확인하는 기술인 'AI 분류기'가 대표적입니다.

유튜브의 AI 분류기는 1분마다 500시간 분량의 영상이 업로드 되는 유튜브에서 인간 관리자 대신 유해 영상 여부를 판별합니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 유튜브는 오랫동안 시스템에 AI를 사용해 왔습니다. 누군가 유튜브에 동영상을 업로드 했을 때, 만약 해당 동영상이 정책을 위반한다면 95%의 경우에는 유튜브의 시스템이 가장 먼저 이를 탐지합니다. 사용자가 신고하기 전에 시스템이 먼저 (정책 위반 콘텐츠를) 탐지하여 시청자가 유해한 콘텐츠에 노출되는 것을 방지하는 것이 목표입니다.]

올해 상반기 AI 분류기가 걸러내 삭제한 동영상은 1619만 개에 달합니다.

아동 관련 영상이 가장 많았고 위험하거나 불법적인 활동을 조장하는 영상, 폭력 영상, 성적인 영상 순이었습니다.

세계적으로 선거가 많았던 올 한해는 특히 정치인을 대상으로 한 딥페이크 영상들이 많이 제작됐고, 유포됐습니다.

유튜브는 지난해 11월 당사자 허락 없이 만들어진 합성 콘텐츠에 대한 삭제 요청을 받겠다고 했는데, 다만, 이런 삭제 요청이 모두 받아들여지는 것은 아니라고 강조했습니다.

정치인 등 공인에 대한 패러디나 풍자라면 다른 기준이 적용될 수 있다는 겁니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 공직자가 마약을 하는 것처럼 묘사된 인위적으로 생성된 콘텐츠가 있다고 가정해 보겠습니다. 만약 이것이 공직자를 허위로 묘사한 것이라면 개인정보 보호 정책에 따라 삭제될 수 있습니다. 반면에 풍자적인 목적으로 제작되었고, 업로더가 정치적 의사 표현을 위해 해당 콘텐츠를 게시했다면 뉴스 가치가 있다고 판단될 수도 있습니다. 즉, 유튜브가 내리는 모든 결정에는 다양한 맥락이 고려되며, 앞서 말씀드린 것처럼 균형점을 찾는 것이 중요합니다.]

어떤 정책을 선호하고 누굴 지지하느냐에 따라 AI 합성 콘텐츠가 풍자로 보일 수도 있고, 아니면 선을 넘은 유해한 영상으로 여겨질 수 있을 겁니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 아무리 심사숙고하여 정책을 수립하더라도 모든 사람이 동의하는 것은 아니라는 사실입니다. 따라서 정책을 적용할 때 객관성과 일관성을 유지하는 것이 매우 중요합니다. 동일한 상황에 대해서는 올바른 결정을 내리고, 유튜브가 취하는 조치에 대해 투명하게 공개해야 합니다.]

유튜브는 자사 AI 도구로 생성된 영상에는 AI 생성물임을 알리는 일종의 꼬리표, 라벨을 자동 부착하는데 크리에이터에게도 스스로 라벨 표시를 하도록 했습니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 시청자를 대상으로 조사를 진행했을 때, 시청자들 역시 AI에 대한 흥미와 기대감을 표현했지만, 크리에이터가 업로드하는 콘텐츠가 변형 혹은 합성을 통해 제작되었는지 여부를 알고 싶어한다는 점을 확인했습니다. 지금 우리 사회는 큰 변화를 겪고 있으며, 시청자들은 본인이 보는 콘텐츠에 대해 의문을 제기해야 할 시점을 잘 알고, (AI라는) 새로운 기술의 능력을 이해하는 법을 배워야 합니다. 유튜브가 도입한 라벨은 시청자들이 콘텐츠를 비판적으로 바라볼 수 있도록 돕는 역할을 합니다.]

기술발전으로 갈수록 어떤 영상이 AI로 만들었는지 아닌지를 구분하는 게 어려워지고 있습니다.

아무리 AI 분류기, 또 라벨 표시 같은 안전장치를 만든다 해도 이를 회피하는 기술도 발전할 겁니다.

유튜브가 이 싸움에서 이길 수 있을지 물었습니다.

[제니퍼 플래너리 오코너/ 유튜브 트러스트 & 세이프티 부사장 : 이러한 유형의 악용 행위를 막는다는 것은 결국 악용하는 사람들에게 더 큰 비용을 부담시키고, 더 어렵게 만드는 것입니다. 유튜브가 성공적인 플랫폼인 한, 사람들은 유튜브를 악용하려고 시도할 것입니다. 저희는 이러한 사실을 잘 알고 있죠. 따라서 악용 행위를 어렵게 만드는 것이 저희의 임무입니다. 유튜브가 이를 해낼 수 있다는 자신감을 갖는 이유는, 유튜브가 오랫동안 다양한 악용 행위를 성공적으로 예방하고 차단해 왔기 때문입니다.]

※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.

(취재 : 홍영재, 영상취재 : 하륭, 영상편집 : 원형희, 제작 : 디지털뉴스편집부)

홍영재 기자 yj@sbs.co.kr