SNS 편승한 ‘AI 딥페이크’, 무차별 공습…팝스타 스위프트도 저격

스위프트 음란성 이미지 공유 파문
정치 및 영화, 스포츠 분야도 얼룩
규제 움직임 빨라지면서 부정 여론도↑
[아로마스픽(79)]1.29~2.2

편집자주
4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차), 반도체(Semiconductor), 보안(Security) 등에 대한 주간 동향을 살펴봤다.

최근 세계적인 팝스타 테일러 스위프트의 얼굴에 딥페이크로 조작된 음란성 사진이 사회관계망서비스(SNS) 등에서 공유되면서 상당한 파문을 일으켰다. AFP 연합뉴스

“놀랍고 끔찍하다.”

심각한 상황으로 직감했다. 앞서 빈번하게 불거졌던 유사한 사례에 비춰볼 때 이미 예상된 부작용이었음에도 그의 반응은 예사롭지 않았다. 해당 논란에서 자유로울 수 없었던 자신의 처지까지 감안된 반응으로 엿보였다. 최근 인터넷상에서 ‘딥페이크’ 기반의 음란성 이미지에 세계적인 팝스타 테일러 스위프트 얼굴 사진을 합성시키면서 불거진 논란은 그에게도 난감한 입장임엔 분명했다. 지난달 27일(현지시간) 미 NBC 방송에 따르면 ‘나이트 쇼’ 사전 녹화 도중, 스위프트 사태와 관련된 질의응답 과정에서 나온 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)의 속내가 그랬다. 그가 이어 “(딥페이크에 맞서기 위해) 우리는 빨리 움직여야 하고 행동해야 한다”며 강조한 후속 조치도 이런 분위기의 연장선으로 읽혔다.

딥페이크(deep fake)는 딥러닝(deep learning)과 페이크(fake)의 합성어로, AI를 활용한 일종의 얼굴 조합 기술이다. 특정 인물의 얼굴이나 신체 부위가 합쳐진 이미지와 비디오, 오디오 등을 버무린 조작본이다. 지난달 26일 미 뉴욕타임스와 CNN 방송 등에 따르면 최근 스위프트 얼굴에 노골적인 성적 자세로 합성된 딥페이크 이미지가 사회관계망서비스(SNS)인 엑스(X, 옛 트위터) 등을 통해 빠르게 확산됐다. 현재는 해당 이미지를 게재한 SNS 계정들이 정지됐지만 삭제 직전까지 조회수만 4,700만 건 이상에 달했다.

딥페이크 활성화엔 생성형 AI 역할도 컸다. 지난 2022년 11월 말 출시된 오픈AI의 ‘챗GPT’를 계기로 대중화된 생성형 AI에 힘입어 딥페이크의 폐해도 급증하면서다. 이번 스위프트의 딥페이크 파장 또한 AI와 무관치 않다. 실제 스위프트의 딥페이크 역시 MS의 AI 생성 도구인 ‘디자이너’로 만들어진 게 아니냐는 주장이 제기됐다. MS 측은 이에 대해 조사 중이라고 밝혔지만 나이트 쇼에 출현한 나델라 CEO는 이에 대한 구체적인 언급을 피했다. MS는 지난 2019년부터 최근까지 오픈AI에 130억 달러(약 17조 원)를 투자, 49%가량의 지분 확보로 최대 주주에 자리했다.

---

딥페이크, 정치권 오염 심각…영화 및 체육 분야 등으로 침투

프랑스 공영방송인 ‘프랑스24’는 지난해 7월, 자국의 축구 스타인 음바페가 한국의 이강인 선수에 대해 평가한 형태로 유튜브에 올려진 가짜 영상에 대해 "불편한 한국과 일본 양국의 관계로 엄청난 조회수를 올렸다"며 해당 영상에 속아서 "시원하다" 등으로 올려진 댓글까지 소개하면서 ‘팩트체크’ 코너로 다뤘다. 유튜브 캡처

올해 11월 대통령 선거를 앞둔 미국에서 정치권은 딥페이크로 몸살을 앓고 있다. 지난달 22일 미 NBC 방송에선 뉴햄프셔 예비경선(23일)을 하루 앞두고 현지 민주당 당원들에게 “11월 대선을 위해 여러분의 투표를 아껴두라”는 조 바이든 대통령의 가짜 목소리 전화가 현지에서 기승을 부리고 있다고 보도했다. 바이든 대통령은 민주당 경선 일정을 고려, 이번 뉴햄프셔 예비경선 후보 등록도 생략했다.

앞선 지난해 4월엔 ‘역대 최약체’인 조 바이든 미국 대통령이 (이듬해에) 재선될 경우, 경제 악화와 범죄율 상승, 국경정책 후퇴 등만 야기될 것이란 가상 시나리오를 배경으로 한 32초 분량의 조작된 딥페이크 유튜브 동영상도 도마에 올랐다. 이 영상은 미 공화당 전국위원회 측에서 제작한 것으로 밝혀졌다. 아울러 지난해 3월엔 미 공화당의 유력한 대선 주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포된 가운데 경찰에 의해 연행되는 사진들이 SNS인 트위터 등에 공유되면서 이목을 끌었다. 해당 사진들은 모두 생성형 AI에 의해 조작된 것으로 드러났다.

영화계도 딥페이크로 얼룩지고 있다. 미 할리우드 유명 스타인 톰 행크스는 지난해 10월 자신의 SNS인 인스타그램에 "인공지능(AI)으로 만들어진 자신의 이미지가 동의 없이 치과 보험 광고에 사용되고 있다"며 불편한 심기를 드러냈다. 행크스는 이어 그해 67세였던 자신보다 젊은 이미지로 짜깁기된 딥페이크 기반의 사진까지 첨부하면서 짜증스러운 감정을 그대로 표출했다.

체육계 또한 예외는 아니다. 세계적인 축구 스타인 프랑스 파리생제르맹(PSG) 소속의 킬리안 음바페가 지난해 7월 당시 한국 이강인 선수의 PSG 입단과 관련, 일본 선수들과 비교한 질문에 “(이 선수는) 재능을 가졌기에 여기로 올 수 있는 것이다”면서도 “일본 선수들에 대해선 전혀 알지 못한다”고 저격한 유튜브 영상 역시 가짜로 판명됐다. 이에 대해 프랑스 공영방송인 ‘프랑스24’는 "불편한 한국과 일본 양국의 관계로 엄청난 조회수(삭제 직전까지 1,200만 건)를 올렸다"며 ‘팩트체크’ 코너로 다뤘다.

---

인터넷 오염수로 무단 방류된 ‘딥페이크’와 모세혈관 지목된 SNS 관련 규탄도 쏟아져

조 바이든(왼쪽) 미국 대통령이 지난해 10월 말, 백악관 이스트룸에서 카멀라 해리스 부통령이 지켜보고 있는 가운데 인공지능(AI) 규제 행정명령에 서명하고 있다. EPA 연합뉴스

AI 기반의 딥페이크가 SNS에 편승, 인터넷 오염수로 무단 방류되면서 규제의 목소리에도 힘이 실리고 있다. 카린 장-피에르 백악관 대변인은 스위프트 딥페이크 참사에 대해 “바이든 대통령이 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다”며 “의회도 전략적인 입법조치를 취해야 한다”고 강조했다. 생성형 AI에서 파생된 부작용에 대해선 강력한 법적 수단을 통해 보다 강도 높은 제재에 착수해야 한다는 판단에서다. 바이든 대통령도 지난해 11월 말 AI 규제 등을 골자로 한 행정명령에 서명하면서 “다른 방법이 없다”며 “무조건 통제해야 한다”고 지적했다. 이어 “사람들을 속이기 위해 AI 장치들이 이미 사용되고 있다"면서 "딥페이크는 사람들의 평판을 훼손하고 가짜뉴스를 퍼트리는 한편 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다"고 질책했다.

딥페이크를 포함해 각종 유해 콘텐츠 확산의 ‘모세혈관’으로 지목된 SNS에 대한 비난도 쏟아지고 있다. 장-피에르 백악관 대변인은 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공과 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다"고 꼬집었다.

이와 관련, 지난달 31일 '빅테크와 온라인 아동 성 착취 위기'를 주제로 개최된 미 연방 상원 법사위원회 청문회에선 “SNS 플랫폼이 미성년자를 대상으로 한 성적 착취를 방치하고 있다”며 플랫폼 CEO에 대한 질타가 쇄도했다. 이 자리에서 여야 의원들은 “SNS 업계가 아동·청소년들을 보호하려는 조처를 하지 않았다”고 한목소리로 비난했다. 이날 청문회엔 메타(옛 페이스북)와 스냅챗, 틱톡, 엑스(X·옛 트위터), 디스코드 등을 포함한 미국 내 5대 SNS 빅테크 업계 CEO가 모두 증인으로 출석했다.

허재경 선임기자