터치 3번이면 딥페이크 완성..'진짜 같은 가짜' 만드는 이유

이진욱 기자 입력 2021. 1. 26. 06:30
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

[MT리포트] AI 시대의 '그늘' 딥페이크(下)

[편집자주] ‘n번방’ 사건이 우리 사회를 발칵 뒤집은 지 10개월이 지났다. 온라인 성착취물에 대한 단속도, 제도도 강화됐다. 그럼에도 아직도 사이버 공간에는 불법 음란물이 버젓이 공유되고 있다. 최근엔 딥페이크 기술을 악용한 합성물들이 넘쳐나며 또다른 가해로 이어지고 있다. 다크웹 사이트에서는 아직도 유명 걸그룹 멤버들의 얼굴을 교묘히 합성된 허위 음란물 영상들이 유통되고 있으며, 그 피해는 이제 일반인들을 겨냥하고 있다. ‘AI(인공지능) 시대의 그늘’ 딥페이크 불법 영상물 유통 실태와 점검해봤다.

"공짜로 합성해 줄게요" 그들은 딥페이크 음란물 왜 만드나
/사진=뉴스1
‘딥페이크’ 불법 음란물이 기승을 부리며 공황장애 등 정신적 피해를 호소하는 이들이 속출하고 있다. ‘딥페이크’를 악용한 불법 음란물을 막아달라는 호소가 끊이지 않는 와중에도 온라인에선 여전히 음란물을 제작하고 소비하는 사람들이 넘쳐난다. 유명인은 물론 일반인까지 겨냥해 디지털 성범죄를 공모하는 공급자와 수요자들. 이들은 왜 불법 음란물을 만들고 보는걸까.

◇수익 노린 공급자·욕구 채우려는 수요자…정교해진 딥페이크 기술로 거래 활발

이수정 경기대 범죄심리학과 교수는 "연예인 등 유명인을 대상으로 한 딥페이크 음란물은 수익을 노린 공급자, 즉 기술자들이 상품을 제작·배포하고 이를 헤비 유저(다량 이용자)들이 구매하는 구조"라며 "공급자들은 금전적 이득을, 수요자들은 성적인 만족을 취한다는 목적이 가장 일반적 형태"라고 설명했다. 딥페이크 음란물을 찾는 수요자와 이를 충족시켜주려는 공급자 간 금전이 오가는 '마켓'이 형성됐다는 의미다.

아이러니하게도 기술 발전이 딥페이크 음란물 수요를 끌어올렸다는 지적도 나온다. 딥페이크 기술이 고도화되며 현실과 구분이 힘들 정도로 자연스러운 영상 구현이 가능해짐에 따라 찾는 사람도 만드는 사람도 늘었다는 것. 이 교수는 "성적인 자극에 있어 리얼리티에 얼마나 근접하느냐에 따라 만족도가 달라지게 된다"며 "특이한 욕망이 있는 사람들은 영상 속 대상이 실존 연예인과 가까울수록 일탈적 욕망을 충족할 수 있기 때문에 딥페이크 음란물을 계속 찾게되는 것"이라고 말했다.

곽금주 서울대 심리학과 교수는 "유명 연예인을 대상으로 한 딥페이크 음란물을 찾는 이들은 자신의 환타지를 접한다는 자체에 쾌감을 느낀다"며 "실제 연예인과 구분이 어려운 영상으로 좀 더 현실감이 더해지니 딥페이크 불법 영상에 대한 소비도 꾸준히 이뤄지는 것으로 보인다"고 지적했다.

/사진=뉴스1


◇일반인 대상 딥페이크는 돈보다 '놀이'…성적 조롱·희화화에 공급자·수요자 동참

대중에 알려진 유명인이 아닌 일반인을 대상으로 제작된 딥페이크 불법 영상은 결이 좀 다르다는 지적이다. 금전적 이득이 목적인 공급자들도 있지만, 일종의 '놀이' 문화로 생각하는 경우가 대다수라는 것. 이 때 보는 이들 역시 같은 의미로 받아들인다는 설명이다. 이런 '놀이'의 핵심은 해당 대상의 '희화화'와 '조롱'이다.

이수정 교수는 "일반인 대상 딥페이크 범죄는 악의적·적대적 목적을 갖고 불법 영상을 만드는 공급자들이 대다수로 보인다"며 "성적 만족을 위해 보는 이들도 있겠지만, 유머로 받아들이고 소비하는 경우도 많은 것이 특징"이라고 설명했다. 곽금주 교수는 "평소에 싫어하던 대상을 성적 웃음거리로 만드려는 목적이 뚜렷해 보인다"며 "피해 대상이 조롱받고 무시당하는 것에 쾌감을 느끼기도 하고 본인이 더 우월한 존재라는 것을 확인하고 싶은 심리도 작용했을 것"이라고 말했다.

공급자나 수요자나 가볍게 즐기는 영상물인 만큼 퀄리티는 크게 중요하지 않다는 시각도 있다. 정교한 화면보다 만들어서 유포하는데 의미를 두는 경우가 많다는 이유에서다. 온라인상에서 딥페이크 영상 제작 방법이 공유되고 '무료로 합성해준다"거나 "연습용으로 만들어 드린다"는 게시물이 넘치는 것도 같은 맥락이다. 한 심리 전문가는 "딥페이크 불법 영상이 공급자나 수요자 간 커뮤니케이션 같은 역할을 하게 되면서 쉽게 만들고 보는 움직임이 나타나고 있다"며 "특히 낮은 연령층에서 문제 의식없이 영상을 만들고 유포하는 경향이 짙다"고 말했다.

이진욱 기자

터치 세번에 딥페이크 영상 '뚝딱'…"초등학생도 하겠는데"
딥페이크 직접 만들어보니
스마트폰 딥페이크 제작 앱 리페이스(Reface) 앱 메인 화면. 영화 '토르'의 주인공 토르(배우 크리스 헴스워스)의 안면부에 다른 사람 얼굴이 합성돼 있다. /사진=리페이스 앱 화면 캡처

“와, 이거 초등학생도 하겠는데?”

기자가 25일 취재를 위해 딥페이크 기술을 활용한 영상합성 앱 리페이스(Reface)를 써 본 소감이다. 기자의 사진으로 화사의 곡 ‘마리아’ 뮤직비디오 영상에 합성해봤다. 몇 초 분량으로 짧게 편집한 영상 속 화사의 안면부는 기자의 얼굴로 바뀌었다. 표정이 약간 부자연스럽고 피부 색이 화사보다 조금 더 하얗긴 했지만 영상 속 주인공은 기자였다. 원본 영상에서 화사의 입 모양과 얼굴 표정에 따라 영상 속 기자의 얼굴 표정도 달라지는 게 신기했다.

영상물 제작은 생각보다 간단했다. 그저 스마트폰 액정을 서너 번 터치했던 게 다다. 준비물도 스마트폰과 딥페이크 앱, 언젠가 찍어뒀던 잘 나온 셀카 한 장뿐이다. 합성된 영상을 다운받기까지 1분이 채 걸리지 않았다. 기자가 이용한 딥페이크 영상 제작 앱은 우크라이나의 AI(인공지능) 회사 네오코넥스트가 만든 유료 앱이다. 해리포터 등 영화 명장면이나 뮤직비디오의 한 장면에 연예인 얼굴 대신 이용자의 얼굴을 합성해 영상이나 GIF 움짤(움직이는 이미지) 파일로 만들어준다. 합성할 영상을 골라 선택할 때 한 번, 셀카 파일을 앱에 업로드할 때 한두 번 (합성 직전 앱에서 바로 셀카를 촬영할 수도 있다.), 합성(‘Reface’) 버튼을 클릭할 때 한 번 이렇게 세 번 정도 손가락을 움직이면 바로 합성 영상이 나온다.

스마트폰 앱으로 누구나 쉽게 딥페이크 영상 제작을 할 수 있다는 얘기다. 실제 시중에는 리페이스 말고도 쉽게 오락 용도로 딥페이크를 만드는 페이스 스왑(face swap·얼굴 바꾸기) 앱들이 여럿 출시돼 있다. 이 중에는 무료로 할 수 있는 것들도 있다. 스냅챗이나 틱톡 같은 동영상 기반 SNS 플랫폼에서도 이 기능을 탑재했다. 중국에서만 사용되는 자오(Zao)라는 아이폰 앱도 있다.

코딩 지식이 조금 있는 이들 사이에서는 앱으로 만드는 것보다 좀 더 정교한 딥페이크 영상을 만드는 방법도 공유되고 있다. 개발자들의 오픈소스 공유 플랫폼인 깃허브에서는 대표적인 딥페이크 제작 오픈소스 라이브러리인 ‘페이스스왑’이나 ‘딥페이스랩’ 등을 쉽게 다운로드 받을 수 있다. 대학교 교양 수준의 코딩 지식만 갖추고 있다면, 딥페이크를 구현할 수 있는 소프트웨어다. 이같은 소스코드는 딥페이크의 핵심 기술인 GAN(생성적 적대 신경망) 등 주요 딥러닝 알고리즘을 학습하기 위해서도 필요하다.

업계의 한 관계자는 “딥페이크 기술은 원래 타인에게 성적 수치심을 유발하거나 음란물을 제작하기 위한 용도가 아니다”라며 “마치 ‘칼’처럼 잘 쓰면 새로운 재미를 주거나 예술적 창작의 도구지만, 오남용할 경우 치명적인 온라인 범죄 도구가 될 수 있다”고 경고했다.

백지수 기자

[관련기사]☞ 서장훈, '자식 버린 남편'에 미련 못 버린 미혼모에 '호통'마약 중독돼 거리 떠돌던 노숙자…역사학 교수 된 사연정가은 "위장이혼 의심 받아…딸 낳으면 동거 추천""동기에게 뺨 맞았다" 김시덕 폭로에…김기수 '불똥''40세' 톱모델의 만삭 화보…"실루엣이 남달라"
이진욱 기자 showgun@mt.co.kr, 백지수 기자 100jsb@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>

Copyright © 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지

이 기사에 대해 어떻게 생각하시나요?