활짝 웃는 독립투사 '감동' vs 허위 성범죄물 '공포'[딥페이크 두 얼굴①]

여성 얼굴에 음란물 합성한 딥페이크 영상물, 제2 N번방 사태로 비화하나
진짜 같은 가짜 만드는 AI 기술…"칼, 잘 쓰면 유용한 도구, 잘못 쓰면 흉기"
딥페이크, 콘텐츠 제작, 의료 등 다양한 영역에선 '좋은 기술' 대조

[서울=뉴시스] 빙그레가 국가보훈부와 함께 공익광고 캠페인 '처음 입는 광복'을 진행했다. (사진=국가보훈부 제공) *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = #"아버지가 쓴 '청포도'에는 이런 구절이 있어요. '내가 바라는 손님은 고달픈 몸으로 청포를 입고 찾아온다고 했으니', 이제야 청포를 입고 나를 찾아오셨네요."

독립운동가이자 시인인 이원록(이육사) 선생 후손 이옥비 여사가 청록색 한복을 입은 이원록 선생 사진을 보고 눈물을 흘린다. 한 식료품 기업이 국가보훈부와 함께 진행한 공익광고 캠페인 '처음 입는 광복' 영상의 한 장면이다.

이 기업은 지난 15일 제79주년 광복절을 맞아 옥중 수형사진이 마지막 모습이었던 이원록 선생의 모습을 AI로 재현했다. 이원록 선생처럼 옥중 수형사진이 마지막 모습인 독립운동가 87명의 프로필 사진을 AI를 통해 한복을 입힌 사진으로 복원했고 이 중 6명의 사진은 후손에게 전달했다.

캠페인 영상에는 독립운동가 강석대, 고수복, 신채호 선생 등이 한복을 입고 서대문형무소 밖에서 걷는 모습이 나온다. 영상을 시청한 네티즌들은 "AI는 이렇게 써야지", "고운 옷을 입고 철문을 걸어 나오시는 모습에 눈물이 났다", "과학과 애국심이 담긴 공익광고" 등의 댓글이 달렸다.

AI 간판 기술 '딥페이크'…잘 쓰면 '감동' 주는 기술

"AI로 친구 놀려볼까?"…딥페이크 범죄 가해자 10명 중 7명은 10대

[서울=뉴시스] 빙그레가 국가보훈부와 함께 공익광고 캠페인 '처음 입는 광복'을 진행했다. 딥페이크 등 AI 기술로 신채호 선생을 복원한 모습 (사진=국가보훈부 제공) *재판매 및 DB 금지

지난 15일 광복절을 맞아 AI 크리에이터 하일광 작가가 딥페이크를 활용해 제작한 광복절 영상도 화제였다. 독립운동가들이 광복을 맞아 기뻐하는 주제였는데 안중근 의사, 유관순 열사, 김구 선생 등 독립운동가들이 손을 들고 웃는 모습이 나온다. 무표정을 한 독립운동가들이 광복절을 맞아 활짝 웃는 영상에 적잖은 국민이 감동했다.

이들 영상 모두 AI 이미지 합성 기술 '딥페이크' 기술을 이용한 영상이다. 딥페이크란 AI를 활용해 실제와 거의 구분하기 힘들 정도로 정교한 가짜 사진·영상을 만들어내는 기술을 말한다.

[서울=뉴시스] 약 40만명이 참여한 딥페이크 성착취 텔레그램 채널. (사진=텔레그램 채널 캡처) 2024.08.27. photo@newsis.com *재판매 및 DB 금지

하지만 요즘 딥페이크는 상당히 부정적인 단어로 읽히고 있다. 우리나라를 발칵 뒤집은 성범죄 영상물 사태 때문이다. 여성 얼굴에 음란물을 합성한 뒤 이를 텔레그램방에서 유포하는 이른바 딥페이크 성범죄 영상물 사태가 일파만파 확대되는 양상이다. 특정 텔레그램 채널에서 운영되는 봇 프로그램에 사진을 올리면 사진 속 얼굴과 나체 사진을 합성한 사진을 완성하는 형태다.

일부 채널은 가상화폐를 사용해 불법 합성물을 만들 수 있는 유료 구조도 갖춘 것으로 파악됐다. '겹지방(겹치는 지인방)'으로 알려진 또 다른 채널의 경우 이용자들이 지인 개인정보·사진을 올리면 사진을 합성한 음란물을 공유하는 것으로 알려졌다.

이 외에 누구나 딥페이크 이미지를 쉽게 만들고 배포할 수 있게 되면서 피해 사례가 늘고 있다. 특히 10대가 딥페이크를 악용한 범죄에 가담한 일이 꾸준히 증가한 것으로 나타났다. 조은희 국민의힘 의원실이 경찰청에서 받은 자료에 따르면 허위 영상물을 만들어 배포해 입건된 10대는 2021년 51명, 2022년 52명, 지난해 91명, 지난 1~7월 131명이었다. 특히 최근 4년간 입건된 피의자 중 70.5%(325명)가 10대였다.

일부 학교 현장에선 가정통신문 등을 통해 학생·학부모에게 딥페이크 범죄 주의를 당부했다. 인천 서구의 한 중학교는 딥페이크 예방 방법, 법적 제재 사항 등을 전하며 "피해를 입은 경우 신속히 112에 신고하길 바란다"고 알렸다. 서울 관악구의 한 고등학교도 학부모들에게 "청소년의 순간적인 호기심으로 우리 학교에서 이와 같은 행위(딥페이크 악용)가 발생하지 않도록 가정에서 지도해 주시기를 바란다"고 전했다.

"딥페이크는 잘못 없다…기술을 나쁘게 쓴 사람이 문제"

[서울=뉴시스] 딥페이크 기술로 손석구의 어린 시절 모습을 그려낸 '살인자ㅇ난감' 속 장면(사진=넷플릭스 제공) *재판매 및 DB 금지

일각에선 이번 사태로 딥페이크 기술 활용이 크게 위축되는 것 아니냐는 우려의 목소리도 나오고 있다.

딥페이크 콘텐츠 제작 프로젝트에 참여한 한 개발자는 "딥페이크 자체는 나쁜 기술이 아니다. 드라마, 영화 등 영상 콘텐츠 분야에서는 지금까지 촬영할 수 없었던 장면도 연출할 수 있도록 돕고 있다"며 "이번 사태로 자칫 AI 기술에 대한 부정적인 인식을 심어줄까 걱정된다"고 말했다.

실제로 딥페이크는 드라마, 영화 등 영상 콘텐츠 제작자들이 많이 사용하는 신기술 중 하나다. 넷플릭스 드라마 '살인자ㅇ난감'의 경우 배우 손석구의 어린 시절이 나온 장면이 있는데 손석구 어린 시절 느낌을 더 살릴 수 있도록 아역배우 얼굴을 딥페이크로 연출했다.

지난 2020년 엠넷 'AI 음악 프로젝트 다시 한번'에서도 고인이 된 가수 터틀맨(거북이)이 딥페이크로 복원돼 그룹 동료들과 함께 노래를 부르는 장면도 있었다. 지난해 12월 JTBC 드라마 '웰컴투 삼달리'에서는 고(故) 송해가 딥페이크, AI 목소리 복원 형태로 출연해 전국노래자랑 MC 역할을 보는 장면이 연출됐다.

딥페이크는 의료에서도 긍정적인 영향을 끼친다. 2019년 독일 뤼벡대 의료정보학연구소는 적대관계생성신경망(GAN)을 이용한 딥페이크 의료 영상을 만들어냈다. AI가 원본 영상과 비슷한 딥페이크 의료 영상을 학습해 질병을 파악하고 정확히 진단을 내릴 수 있도록 돕는다. 원본 영상을 구하는 데 환자 동의도 필요한 만큼 데이터 확보가 쉽지 않은데 딥페이크 덕분에 의료 영역에서도 연구를 활발히 진행할 수 있게 된 것이다.

딥페이크 콘텐츠를 제작한 한 개발자는 "이번 사태는 딥페이크를 잘못 사용해 제작한 콘텐츠를 텔레그램으로 유통한 게 문제"라며 "이러한 악용 사례가 최대한 재발되지 않도록 하는 규제 방안이 논의돼야 한다"고 주장했다.

하일광 작가도 "AI를 활용하고 있는 유저로서 경악스럽고 용납할 수 없는 일"이라며 "이러한 범죄가 사회적으로 얼마나 큰 해악을 미치는지 사람들이 제대로 인식할 수 있어야 한다. 기술을 윤리적으로 사용하도록 학교에서부터 제대로 된 교육이 필요할 것 같다"고 말했다.


☞공감언론 뉴시스 alpaca@newsis.com