[AI 미디어 파도] JTBC 기자가 2000만원으로 만든 다큐, 국제영화제 대상

[AI 미디어 파도] 범죄에 이용될 생성형 AI에 경종 울린 '딥 크리미널' 이윤석 감독
"이제는 완전히 영상인터뷰 조작해도 잡아내기 어려운 상황"

[미디어오늘 박서연, 박재령 기자]

▲ 다큐 '딥 크리미널'의 감독인 이윤석 JTBC 기자가 미디어오늘과 서울 마포구 상암동 JTBC 사옥에서 인터뷰하고 있다. 사진=박재령 기자.

“다큐 내레이션, 이선화 기자 AI였다고요?”라는 기자의 질문에, 이윤석 JTBC 기자는 “엔딩 크레딧을 안 보셨구나. 마지막에 내레이션 이선화 AI 목소리라고 밝혔어요”라고 답했다. 급속도로 세상을 바꾸고 있는 생성형 AI에 견제구를 던진 JTBC 다큐멘터리 '딥 크리미널'은 시작부터 끝까지 이선화 JTBC 기자의 목소리로 방송된다. 그러나 이 목소리조차도 생성형 AI 무료 툴을 활용해 이선화 기자의 목소리를 학습시킨 AI였다.

지난해 초 챗GPT 등장에 세계가 열광하고 있을 당시, 이윤석 기자는 “너무 뛰어나서 쓸수록 무서웠다. 모두 장밋빛 전망에만 집중했는데 저는 AI로 인한 범죄가 우리 예상보다 굉장히 빠르게 본격화할 거로 봤다”며 다큐를 제작하게 된 배경을 설명했다. 한 번도 다큐를 만들어보지 않은 기자가 다큐를 만들겠다고 하니 처음엔 다들 코웃음을 쳤다고 했다.

다큐의 시작은 AI 보이스피싱 피해를 당한 '제니퍼 데스테파노'의 사례로 시작한다. 미국 애리조나주에서 네 자녀를 키우고 있는 그는 지난해 1월 딸이 납치됐다는 전화를 받았고, 전화 속 딸은 울면서 살려달라고 외쳤다. 그러나 그의 딸은 아빠와 안전하게 있었다. 데스테파노는 JTBC와의 인터뷰에서 “저는 제 딸과 통화했다고 확신했다”고 말했다.

▲'딥 크리미널' 제작진. 왼쪽부터 김동준 편집기자, 이윤석 기자, 박도원 전 인턴, 이지현 작가, 안다빈 전 인턴, 천세원 디자이너, 김동건 PD, 유요한 기자. ⓒ중앙그룹

이윤석 기자가 감독이 되고, 이선화·유요한 기자와 김동건 PD가 미국으로 가 6명의 인터뷰이를 카메라 앞에 세웠다. 김동준, 안다빈, 천세원, 이서우, 이지현, 박도원, 한철호, 김나연까지 총 12명이 함께 만들었다. 미국 휴스턴국제영화제 TV 부문 대상, 뉴욕 페스티벌 다큐 부문 동상, 텔리상 TV 부문 동상, 방송통신심의위원회 이달의 좋은 프로그램상 등을 수상한 <딥 크리미널> 다큐를 만든 이윤석 감독을 지난 14일 서울 마포구 상암동 JTBC 사옥에서 만났다. 다음은 일문일답.

-어떻게 감독으로 데뷔했나.

“OTT 시대가 열린 이후에 중흥기를 맞은 게 다큐 부문이다. 단순 정통 다큐가 아니라, 다큐 드라마, 다큐 영화 등 여러 콘텐츠가 많이 나온다. 그럴 수밖에 없는 게 드라마, 예능 제작비가 너무 비싸졌다. OTT 입장에서는 구독자 이탈을 방지하려면 콘텐츠를 계속 선보여야 하는데, 가성비 콘텐츠 넘버원이 다큐다. 제작비가 너무 많이 쓰이는 경향이 있는데, 극단적으로 슬림화해서 만들 수 있다고 봤다.”

▲다큐 '딥 크리미널'의 감독인 이윤석 JTBC 기자가 미디어오늘과 서울 마포구 상암동 JTBC 사옥에서 인터뷰하고 있다. 사진=박재령 기자.

-생성형 AI를 아이템으로 선정한 이유는?

“작년 초에 챗GPT를 많이 썼다. 너무 뛰어나 쓸수록 무서웠다. 이렇게 뛰어난 도구가 나쁜 마음을 먹고 범죄에 이 시스템을 악용하려고 한다면 과연 어떤 일이 벌어질까? 전 세계 주요 언론이 챗GPT를 다룰 때 혁신 측면 즉 장밋빛 전망에만 주목했다. 저는 반드시 AI로 인한 범죄가 예상보다 굉장히 빠르게 본격화할 거로 생각했다. 그래서 경고하는 다큐를 만들기로 결심했다.”

-회사에서 흔쾌히 허락해 줬나.

“일단 제가 적은 제작비로 수익을 낼 수 있다고 큰소리쳤다. AI 주 무대는 좋든 싫든 앞으로도 미국이 될 거다. 반드시 미국 취재가 필요했다. 해외 출장 비용이 만만치 않다. 그래서 지난해 초 한국언론진흥재단에 다큐를 제작하겠다고 취재 계획을 접수했고, 봄에 선정돼 지원금을 받았다. 실질적인 제작비는 2000만 원이다. 원래 제가 큰소리친 액수는 더 적었다. 대형방송사에서 큰 다큐 만들면 예고편 비용이 2000만 원이라더라.”

▲'딥 크리미널' 유뷰브영상 갈무리.

-AI 보이스피싱 피해를 당한 네 자녀의 엄마 '제니퍼 데스테파노'의 사례로 시작했다.

“여전히 한국에서는 AI 범죄는 남의 나라 이야기라고 생각하는 사람들이 많다. 당장 부모님한테 물어보면, 먼 나라 이야기처럼 느낀다. AI가 일부 전문직, 미디어 업계 등에서만 제한적으로 사용한다고 생각하는 사람들이 많다. 어떻게 하면 이게 먼 나라 이야기가 아니라, 오늘 당장 당할 수 있는 일이라는 걸 보여줄 수 있을까 생각했다. 너무나도 평범한 가정주부, 바꿔 말하면 전 세계 어느 나라에서든 평범한 사람이 AI 딥보이스로 만든 가짜 자녀의 목소리로 범죄의 대상이 될 수 있다는 메시지로 시작하고 싶었다.”

-10명 넘는 인터뷰이를 카메라 앞에 세웠다.

“같이 일했던 후배들이 너무 뛰어났다. 그걸 주도한 기자가 이선화, 유요한 기자다. 지난해 7~8월경 열흘 동안 미국에 가서 인터뷰를 다 해왔다. 섭외가 진짜 어려웠다. 출장을 2~3번 갈 수 없어서 짧은 기간 단 한 번의 출장에 그 인터뷰를 다 해내야 했다. 후배들한테 미안하다. 통역사, 운전기사 등 현지 코디 도움을 하나도 안 받았다. 함께 간 김동건 PD는 무거운 조명을 들고 혼자 촬영을 다 해냈다. 다큐에는 음향, 오디오, 색 보정 등이 필요하다. 그런데 김 PD가 1인 15역을 했다. 촬영, 편집, 색 보정 다 했다. 그래서 크게 비용 절감이 됐다. 음악 비용이 많이 들어가는데, 터무니없는 금액으로 했다. 음악 감독님께 과장된 자신감으로 국제영화제 출품할 거고 자신 있다고 설득했다. 감독님 상 한 번 받게 해드리겠다고 했다. 저를 믿고 도와주셨다. 그런데 사실 이렇게 큰 상을 받을지는 예상 못 했다.”

-마블 캐릭터를 디자인한 유명한 일러스트레이터 '칼라 오티즈'는 이미지 생성형 AI 회사들에 소송을 걸었다. 그는 소송의 과정이 윤리적인 생성형 AI를 갖게 만들 거라고 말했다. 무슨 뜻인가?

“사람들은 AI가 완전히 새로운 걸 만들어 낸다고 생각한다. 잊지 말아야 할 게 AI가 만드는 모든 창작물의 시작은 인간의 창작물에서 시작된다. 음악이든 그림이든 영상이든 소설이든 시든 AI가 만들어 낼 수 있게 하는 밑바탕에는 인간이 만들어 낸 인류 역사의 수많은 콘텐츠가 깔려있다. 챗GPT가 만드는 그림을 뜯어 보면 다양한 작가의 그림 스타일이 다 들어가 있다. 지금은 A작가와 B작가의 스타일을 혼용해 그려달라고 직접 지시할 수도 있다. 이전에 유명 작가들의 작품을 학습했기 때문에 나오는 거다. AI 플랫폼 기업들이 윤리적으로 나아가 책임감을 갖고 해결해야 한다.”

▲민경훈씨가 자신의 목소리를 학습한 생성형 AI가 다른 가수의 노래를 부르는 걸 듣고 놀라는 모습. '딥 크리미널' 유뷰브영상 갈무리.

-유튜버가 민경훈 가수 목소리를 AI 툴에 몇 분 학습시키자, 브라운아이즈의 노래를 부르는 민경훈 가수가 나왔다.

“유요한 기자가 아이디어를 냈다. 단순히 현상만 짚어주지 말고 직접 가수에게 실험해 보자고 했다. 소속사에 전화했다. 저는 속으로 가수 입장에서 좋은 현상은 아니라 거절할 거로 생각했지만, 민경훈씨도 궁금해했다. 소속사 쪽에서는 굉장히 걱정을 많이 했다. 장기적으로 가수 직업의 정체성과 연결되는 민감한 부분이다. 결과적으로는 민경훈씨도 재밌어하고 의미가 컸다. 그런 걸 과연 AI가 구현해 낼 수 있는가. 결과적으로 그 이상을 구현한 시대가 온 거다.”

-JTBC 기자들의 목소리를 학습시킨 실험도 있었다.

“마음먹고 돈을 투자해서 더 높은 수준으로 만들 수도 있었는데, 그렇게까지 하지도 않았다. 파워보이스라는 업체가 돈 받지 않고 이 정도는 해줄 수 있다고 하더라. 기자들의 목소리 역시 몇 분 학습시키지도 않았다. 정말 구별하기 어려웠다.”

▲이서준 기자와 이가혁 기자가 동료들의 목소리를 학습한 생성형 AI 목소리와 실제 동료의 목소리를 구분하는 실험에 참여하고 있다. 두 기자들은 정답을 맞추지 못했다. '딥 크리미널' 유뷰브영상 갈무리.

-내레이션도 인간 이선화 기자의 목소리가 아닌 AI 이선화 기자의 목소리였다.

“지난해 10월 다큐를 내기 전에 내레이션을 어떻게 할 건지 고민했다. 해외 무료 AI 툴을 통해 만든 거다. 몇만 원 수준의 금액을 내고. 몇 분도 안 되는 오디오 읽은 다음에 학습시켜서 음성을 만들었다. 원고를 넣었더니 똑같이 읽어줘서 다큐에 입힌 거다. 사람들이 전혀 모르더라. 지금은 더 발전했다. 한달 한달 시간이 지날 때마다 무서울 정도로 발전 속도가 빠르다.”

▲다큐 '딥 크리미널'의 내레이션은 이선화 JTBC 기자의 목소리를 학습시킨 생성형 AI가 맡았다. 사진='딥 크리미널' 유튜브화면 갈무리.

-생성형 AI의 '암'을 취재하면서 본인에게도 피해가 될까 무섭지 않았나?

“기자 직업 자체가 의심하는 게 직업이다. 보이는 대로 보면 안 되고, 들리는 대로 들으면 안 된다. 그 의심을 풀어주는 게 기자다. 영상으로 확인시키고, 녹취로 확인시켜 준다. 이제는 그 무엇도 믿을 수 없는 시대가 되어버린 거고, 다큐를 만드는 제작진은 더 의심이 심해졌다. 이거 진짜일까? 만든 건 아닐까? 저희는 생성형 AI로 직접 만들어봐서, 만드는 게 충분히 가능하다는 걸 알게 돼버렸다. 해외언론사에서는 AI로 만들어 낸 조작물로 허위 제보를 받는 일이 벌어지고 있다. 앞으로 그런 일이 점점 더 많아질 거다. 머리 아프더라. 어떻게 취재해야 하지 뭘 믿어야 하지 걱정됐다. 과거엔 서류를 조작하고 도장을 가짜로 찍는 수준의 범죄였다면, 이제는 완전히 영상을 조작하고 인터뷰를 조작해도 잡아내기 어려운 상황이 왔다.”

-미디어업계의 상황이 녹록지 않다. 해주고 싶은 말이 있나?

“전반적으로 어렵다. 동시에 여전히 새로운 기회가 많이 있다. 특히 직업적 위기감을 많이 느끼는 게 기자들인데, 지역 언론에서 영화를 만들기도 하고, 기자들이 다큐를 만들기도 하고, 새로운 시도들이 굉장히 많이 이뤄지고 있다. 기자의 가능성이 훨씬 무궁무진하다. 그걸 발휘할 수 있는 무대가 많이 있으니 적극 도전했으면 좋겠다. 이런 무모한 도전을 허락한 회사에도, 흔쾌히 지원해 준 한국언론진흥재단에도 감사하다. 더 작은 회사들은 (이런 기획을) 상상조차 못 한다. 재단의 지원 없이는 불가능하다. 충분히 아이디어가 괜찮다고 판단되면, 더 적극적으로 지원해서 새로운 혁신이 일어날 수 있게 해줬으면 좋겠다.”