마왕 신해철부터 독재자 김정은까지..딥페이크의 빛과 그늘 [23CM]

우리 일상으로 파고든 딥페이크의 명암
콘텐츠 혁신 돕는 착한 기술..DJ 뮤지션 신해철 귀환!
가짜뉴스·범죄에 악용되는 나쁜 기술..김정은이 엉뚱한 말을 한다?

2030의 시선으로 세상 소식을 전달하는 조선일보 팟캐스트 23CM! 이번 주에는 딥페이크의 빛과 그늘에 대해 얘기합니다. 그래픽은 딥페이크 사진과 영상 의혹이 끊이지 않는 김정은 북한 국무위원장의 얼굴.

팟캐스트 특급배송, 당신의 아침을 함께 하고 싶은 23CM! 오늘 이십삼센치 방송에서는 ‘딥페이크의 빛과 그늘’에 대해 이야기합니다.

딥페이크: ‘딥러닝(Deep learning)’과 ‘페이크(fake)’의 합성어. 말 그대로 AI(인공지능) 딥러닝 기술을 이용해 가짜 영상이나 목소리, 사진 등을 만들어내는 기술.

요즘 딥페이크 기술로 음성을 감쪽같이 꾸며내거나, 하지 않은 행동을 실제로 한 것 같은 가짜 영상을 만드는 사례가 급격하게 늘고 있습니다. 이런 딥페이크의 진화를 바라보는 세상 시선은 좀 복잡합니다. 공연·영화·음악 등 문화 콘텐츠 업계와 정보통신 업계에 혁신을 가져 올 착한 기술이면서, 동시에 가짜 뉴스·각종 범죄에 악용될 수 있는 나쁜 기술이라는 것이죠.

◇명(明): 딥페이크 유토피아

먼저 아래 동영상 플레이 버튼을 눌러 KT가 최근 복원한 AI DJ, 뮤지션 신해철씨의 반가운 목소리를 들어보세요.

⭐[방송듣기] 오늘 23CM 팟캐스트 도입부는 AI DJ 신해철씨가 안내합니다.

이달 초 KT는 가수 신해철의 살아 생전 목소리를 AI 딥러닝 기술로 재현한 음원 서비스를 선보였습니다. 신해철씨가 ‘마왕’이라는 애칭을 얻으며 DJ를 맡았던 ‘고스트 스테이션’ 방송을 2021년 버전으로 구현한 방송입니다.

AI는 이른바 ‘개인화 음성합성기술(P-TTS)’로 신해철씨의 11년치 라디오 방송 음성을 분석, 마왕 특유의 발화 패턴을 딥러닝했다고 합니다. 그 결과 신해철씨의 목소리 뿐 아니라 평소 말투와 습관까지 생생히 재현할 수 있었죠.

마왕이 돌아왔다. KT는 최근 신해철씨의 음성을 복원해 스마트스피커에서 AI(인공지능) DJ 서비스를 제공하고 있다. /넥스트유나이티드

이처럼 딥페이크 기술은 최근 여러 분야에서 상용화 가능성을 주목받고 있습니다. 단순히 ‘가짜 영상’을 만드는 데만 쓰는 줄 알았던 기술이 생각보다 쓸모가 많았던 겁니다.

영화업계에서도 배우의 얼굴 나이를 자유자재로 늘리고 줄이거나, 배우를 특정 실존 인물과 닮아보이게 하는데 딥페이크 기술을 활용하고 있습니다. AI 스피커, AI 챗봇 서비스를 앞다퉈 내놓고 있는 IT업계에서도 ‘사람다운 AI’ 이미지와 목소리를 만드는데 주력하고 있죠. 딥페이크의 진화 버전인 ‘디지털 더블’ 기술로 만든 가상 인플루언서들도 잇따라 등장하고 있습니다.

영화 '보헤미안 랩소디'의 프레디 머큐리 역할을 맡은 배우 라미 말렉의 얼굴에도 딥페이크 합성 기술이 동원됐다.

일상에선 ‘딥페이크 밈(Meme)’이 MZ세대에게 화제입니다. 아예 딥페이크 이미지와 영상을 만들어 주는 전용 어플(리페이스·페이스플레이 등)도 쏟아지고 있습니다.

◇암(暗): 딥페이크 디스토피아

문제는 악용 사례 또한 크게 늘고 있다는 사실입니다. 먼저 ‘가짜 뉴스’의 위험성이 지적되고 있습니다. 지난해 미국에서는 한 비영리단체가 유튜브에 올린 ‘독재자-김정은(Dictators-Kim Jong-Un)’이란 영상이 사람들에게 충격과 웃음을 안겼습니다. 김정은 북한 국무위원장이 직접 나서서 미국 대선 투표 참여를 독려했기 때문이죠. 딥페이크로 만든 가짜 영상입니다.

유튜브 'Dictators-Kim Jong-Un' ☞링크 youtu.be/ERQlaJ_czHU

버락 오바마 전 미국 대통령이 “트럼프는 쓰레기”라고 외치는 딥페이크 영상도 유명합니다. 딥페이크 기술이 정치권 가짜뉴스 생산에 동원된다면, 민주주의를 크게 위협할 수도 있다는 우려가 나오는 상황입니다.

불법 음란물 제작, 피싱 범죄에 악용되는 사례도 속출하고 있습니다. 지난해 ‘N번방 사건’에서도 딥페이크 포르노 영상이 피해자 협박에 쓰이면서 ‘딥페이크 방지법’이 발의되기도 했죠. 방송 후반부에 다루는 이 내용은 최근 딥페이크의 어두운 부분을 취재했던 사회부 채제우 기자가 함께 합니다. 채 기자가 직접 자기 얼굴로 딥페이크 합성을 하게 된 사연, 경찰서를 오가며 알게 된 실제 딥페이크 피해 사례를 풀어드릴게요.

본지 남성 기자의 딥페이크 합성 사진. /조선일보DB

청취자 여러분의 구독과 좋아요, 거침 없는 댓글은 23CM에 큰 힘이 됩니다. 딥페이크에 대한 솔직한 생각을 남겨주세요!

기사보기 링크는 조선일보 앱과 홈페이지(chosun.com)에서 작동합니다. 23CM 팟캐스트는 오디오 플랫폼 ‘팟빵’과 ‘아이튠즈 팟캐스트’에서도 들으실 수 있습니다. ☞23CM 팟빵 주소: podbbang.com/ch/1780212

⭐[방송듣기] 플레이 버튼을 눌러 23CM 팟캐스트를 들어보세요!

00:07 💧눈물주의💧 10년 만에 ‘AI DJ’로 부활한 마왕 신해철!

01:47 고스트스테이션 11년치 털어 신해철 말투 딥러닝🤖

03:35 아빠 말투로 동화 읽기, 사별 가족 재현...AI의 착한 성대모사🔊

04:19 일상 파고든 딥페이크를 알아보자🔍

06:17 온라인 ‘밈(meme)’ 단골 소재된 딥페이크🤡

06:51 트럼프가 노래합니다, ‘하바나 우나나~’🎤

08:25 “트럼프 쓰레기”라는 버락 오바마?!🚮

08:53 얼굴 모공, 솜털까지 재현하는 ‘디지털 더블’🦰

10:37 ‘도지 산 순간~’ 일론 머스크와 딥페이크 밈🐕

11:32 놀이문화 된 딥페이크, 전용 앱 등장📱

12:15 딥페이크 탐지기술 선보인 마이크로소프트🔦

13:29 딥페이크로 부활하는 명가수들🎸

15:13 배우 리즈 시절 되돌리는데 찰떡🎥

16:41 BTS, 블랙핑크 목소리로 통화를 한다면?!🎧

17:50 인기 연예인 목소리 구입 나선 AI스피커 업체들💰

19:23 얼굴도 목소리도 사람 닮아가는 AI, 부작용은?🎭

20:19 ‘설명을 요구할 권리’와 ‘편향된’ 딥러닝🎯

21:36 조선일보 신년기획, ‘알고리즘이 당신을 지배한다’👩‍💻

22:57 BTS가 정치 편향 뉴스만 읽어준다면?📰

23:52 AI 자율주행차 업계에 등장한 ‘트롤리 딜레마’🚘

26:02 늘어난 딥페이크 악용사례 (feat.주현영 기자)👿

27:29 184cm, 92kg 기자가 딥페이크 앱으로 여장해본 썰(SSUL)

30:57 딥페이크 음란물 때문에 아내와 경찰서 찾은 50대男👮

32:24 진화하는 딥페이크 협박 사례🔪

33:29 딥페이크 앱 속 선정적인 영상들, 🚨악용주의보🚨

34:05 ‘재산권 침해’ 논란된 딥페이크 스타들 (feat.차이유)👹

34:42 온라인 딥페이크 영상 중 96%가 음란물?!🔞

35:10 ‘안면인식’ 보안까지 뚫어버린 딥페이크 기술🧬