진짜 아니었어?...중국 선전용 '딥페이크' 앵커 등장

딥페이크 앵커 활용한 선전활동

AFP 통신은 오늘(8일) 중국 공산당에 유리한 정보를 확산시키는 가상 뉴스 매체에서 인공지능(AI) 프로그램으로 만든 '딥페이크'(deepfake·합성조작) 앵커가 활동하고 있다고 보도했습니다.

중국 친정부 배우를 모방해 합성 조작된 '딥페이크' 가상 앵커들이 '울프 뉴스'를 진행하고 있다./사진=연합뉴스

미국의 서비스형 소프트웨어(SaaS) 기업 그래피카는 보고서에서 '울프 뉴스'(Wolf News)라는 친중국 가상 매체에서 활동하는 남녀 앵커가 중국 친정부 배우를 모방해 합성 조작된 가상 인물임을 확인했다고 밝혔습니다.

잭 스터브스 그래피카 부사장은 "AI가 창조한 가상 인물을 활용해 기만적인 친정부 콘텐츠를 만든 것을 확인한 것은 이번이 처음"이라고 강조했습니다.

그래피카가 분석한 한 영상에서 남성 가상 앵커는 만연한 총기 폭력에 대한 미국 정부의 무대책을 비판했고, 다른 영상에서 여성 가상 앵커가 미국과 중국 간 '강대국 협력'의 중요성을 강조했습니다.

그래피카는 SNS 플랫폼에서 친중국 허위정보 활동을 추적하던 도중 발견한 것이라며, 이들은 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램으로 합성된 것이 거의 확실하다고 말했습니다.

앞서 중국 정부는 지난달 10일부터 AI 기반의 이미지·오디오·텍스트 생성 소프트웨어 등을 규제하는 '인터넷 정보 서비스 딥 합성 관리 규정'을 시행, 세계 주요국 중 처음으로 딥페이크에 대한 포괄적 규제를 시작한 바 있습니다.

이 규정에 따르면, 딥페이크 서비스 제공자와 이를 이용하는 콘텐츠 제작자는 해당 기술을 사용해 콘텐츠를 만들 경우 이러한 사실을 눈에 보이도록 분명히 표시하고 디지털 표식(워터마크)을 붙여 원본을 추적할 수 있도록 해야 합니다.

[김가은 디지털뉴스부 인턴기자 kimke3998@naver.com]

< Copyright ⓒ MBN(www.mbn.co.kr)무단전재 및 재배포 금지 >