[S리포트] 짙어진 딥페이크의 그림자… "악용하는 사람이 문제"

[AI가 낳은 괴물 '딥페이크']③'성범죄' 넘어 정치, 국가적 여론전에도 동원돼

[편집자주] 인공지능(AI) 기술이 발전할수록 우리의 삶은 윤택해지고 편리해질 것으로만 생각했다. 관련 기술 활용이 늘고 사회 곳곳에서 부작용이 나타나면서 기대는 우려가 됐다. AI로 사람의 얼굴 등을 합성에 가짜를 만드는 '딥페이크'가 대표적이다. 신기하고 재미있어서 하나둘씩 만든 자극적인 영상과 이미지로 고통받는 이들은 이를 범죄로 규정하고 처벌을 촉구한다. 생활 속에 파고든 '딥페이크 성범죄'는 더 이상 두고 보기 어려운 상황으로 치달았다. 더 많은 피해자가 양산되지 않도록 인식 개선과 관련 제도 마련이 시급하다.

'딥페이크'(인공지능 기반 이미지 합성) 세상이 펼쳐지며 딥페이크로 인한 각종 부작용이 속속 드러나는 가운데 딥페이크 기술에 대한 사회적 고민이 필요하다는 지적이 나온다. /그래픽=머니S(강지호 기자)

생성형 인공지능(AI) 기술의 발달로 '딥페이크'(인공지능 기반 이미지 합성) 세상이 펼쳐지면서 파장이 커진다. 우리의 삶을 윤택하게만 만들 것으로 여겨졌던 AI의 부작용으로 딥페이크가 무분별하게 양산되면서 사회적 문제로 대두했다. 어두운 그림자가 더욱 짙어지기 전에 딥페이크 기술과 관련된 사회적 고민이 필요하다.

딥페이크란 AI 심층 학습을 뜻하는 딥러닝(deep learning)과 가짜(fake)를 합한 단어로 'AI로 인공의 인간 이미지 합성물'을 뜻한다. 딥페이크는 AI 기계학습(머신러닝) 기술 가운데 비지도 학습(기계학습의 일종으로 데이터가 어떻게 구성됐는지 알아내는 문제의 범주)을 통해 제작된다. 정답을 제시하지 않은 상태에서 컴퓨터가 스스로 학습하는 알고리즘 방식으로 데이터의 특성을 파악해 가상의 이미지를 만든다.

주의를 기울이면 가짜인 것을 알 수 있는 것도 있지만 AI 기술의 발달은 감쪽같이 속아 넘어갈 정교한 딥페이크 합성물 제작을 가능케 했다. 우리에게 유용하게 쓰이는 딥페이크 기술은 저화질의 영상을 고화질로 전환하는 업스케일링이 대표적이다. 돌아가신 부모님의 젊었을때 모습을 가상 현실에서 만날 볼 수 있게도 해준다.

하지만 SNS(사회관계망서비스)를 통해 확산되는 불법 음란 합성물로 인해 많은 피해자가 양산되고 있어 문제다. 미국에선 지난 1월 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 딥페이크 음란물이 유포돼 논란이 일기도 했다. 해당 콘텐츠 삭제 전까지 4700만회 이상 조회됐다. 국내에선 여성 연예인의 사진을 합성해 음란물로 만드는 것을 넘어 각각 다른 사람의 얼굴과 신체를 합성해 음란물을 만든 '딥페이크 성범죄'가 미성년자를 포함한 일반인을 대상으로 기승을 부린다.

딥페이크 기술이 갈수록 고도화돼 사건·사고 피해가 급증하고 있다. 경찰청 통계에 따르면 딥페이크 관련 범죄 발생 건수는 ▲2021년 156건에서 ▲2022년 160건 ▲2023년 180건 ▲2024년 1~7월 297건으로 크게 늘었다.

각종 딥페이크 프로그램이 오픈 소스(온라인에 있는 무료 프로그램)로 풀려 쉽게 접할 수 있고 사용이 간편해진 것이 원인으로 분석된다. 간단한 검색으로 딥페이크 제작 사이트 접근이 가능한데다 성인 인증을 하거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼 비전문가와 미성년자 등이 손쉽게 유혹을 받는다.

전문가들은 딥페이크 기술이 불법 합성물 유포 등 성범죄에 악용되는 경우뿐 아니라 '가짜 뉴스'로 악용돼 각종 정치적 선전과 국가적 여론전에 동원되는 경우도 잦다고 우려한다. 다양한 정보통신기술과 알고리즘을 통해 빠르게 살포되는 가짜 뉴스는 국가안보에 치명적이다.

지난 17일(현지 시각) 도널드 트럼프 전 대통령은 대선을 앞두고 AI로 만든 가짜 사진을 SNS에 올려 빈축을 샀다. 여론몰이를 위해 카멀라 해리스 부통령이 시카고에서 열린 공산당 행사에서 연설하는 가짜 사진을 게재한 것이다.

러시아-우크라이나, 이스라엘-하마스 등에선 딥페이크가 여론전에 사용된다. 하마스는 어린아이들이 죽은 가족 앞에서 울고 있는 이미지를, 이스라엘은 가자지구 주민들이 이스라엘 국기를 들고 환호하는 영상 등을 가짜로 만들어 대중을 선동했다.

김승주 고려대 정보보호대학원 교수는 "결국 사람을 해치는 것은 딥페이크가 아니라 딥페이크를 악용하는 사람이다"라며 "기술로 딥페이크의 부작용을 막아낸다는 것은 불가능한 얘기"라고 했다. "관련 인식 교육을 철저히 해 변화시키고 좋은 AI와 나쁜AI를 함께 연구해야 한다"고 덧붙였다.

김성아 기자 tjddk99@mt.co.kr