성범죄에 보이스피싱까지...딥페이크의 진화

기술 보편화돼 누구나 만들 수 있는 딥페이크 확산
'유포자'만 처벌? 외국에선 '생산자' '소지자' 처벌 사례도

[미디어오늘 금준경 기자]

▲ 사진=Gettyimagesbank

지금 이 순간에도 딥페이크가 빠르게 확산하고 있다. 인공지능 기술이 발전하면서 누구나 딥페이크 영상이나 사진을 만들어 유포할 수 있게 되면서 위협은 더욱 커지고 있다. 사이버 보안업체 홈시큐리티히어로스에 따르면 2023년 온라인에 유포된 딥페이크 영상은 9만5820건으로 5년 전에 비해 6배 이상 급증했다.

'신기술'이었던 딥페이크, 이젠 누구나 만들어

딥페이크(deepfake)는 딥러닝(Deep Learning)과 (페이크)Fake의 합성어로 인공지능 딥러닝 기술을 활용한 합성 기술을 뜻한다. 2017년 'deepfakes'라는 이름을 쓰는 인터넷 이용자가 유명인의 얼굴을 포르노 영상에 합성하면서 알려지게 됐다. 원래 의미는 인공지능 딥러닝 학습을 통한 영상물을 뜻했으나 현재는 영상뿐 아니라 사진과 음성 등까지 의미가 확장됐다. 영상의 경우 다양한 각도에서 촬영한 시각물이 많으면 인물을 3차원으로 인식할 수 있어 더욱 정교한 딥페이크 영상을 만들 수 있다.

대중에게 딥페이크가 널리 알려진 계기는 2018년 '오바마 딥페이크' 영상이다. 미국 워싱턴대의 연구팀은 오바마 전 대통령이 출연한 연설 영상과 딥페이크로 만든 영상을 나란히 재생하는 영상을 올려 주목 받았다. 두 인물 다 진짜 오바마 전 대통령처럼 보여 구분하기 어려웠기 때문이다.

현재 딥페이크 기술이 보편화되면서 누구나 딥페이크 영상이나 사진을 만들 수 있게 됐다. 앱마켓에서 '딥페이크'로 검색하면 여러 딥페이크 생성 서비스가 뜬다. 한 서비스의 경우 월 6000~7000원 정도만 내면 딥페이크 영상을 무제한으로 생성할 수 있다. 초보라도 앱을 사용하면 10분 이내에 언제든 딥페이크 영상을 만들어낼 수 있다. 정교한 딥페이크 제작을 누구나 할 수 있는 건 아니지만 기술 발전은 시간 문제다.

허위정보·성범죄·피싱 등에 악용

딥페이크 문제는 허위정보, 피싱 등 사기, 성범죄에 악용될 때로 구분할 수 있다. 기만을 목적으로 한 허위정보는 주로 정치적 음해의 도구로 쓰인다. 지난해 조 바이든 미국 대통령이 “트랜스젠더는 여성이 될 수 없다”는 혐오발언을 하는 영상이 유포돼 논란이 된 사례가 대표적이다. 도널드 트럼프 전 대통령이 격하게 저항하다가 체포되는 사진은 풍자 목적으로 '레딧' 사이트에 올라왔지만 사실로 믿는 사람들이 적지 않았다. 최근에는 카멀라 해리스 부통령을 악의적으로 묘사한 딥페이크 영상과 이미지 등이 논란이 됐다.

▲인공지능 이미지 생성 서비스 미드저니로 만든 사진. 패러디 목적으로 만들었지만 도널드 트럼프 전 대통령이 체포된 것처럼 오인돼 논란이 됐다.

피싱 등 사기에도 딥페이크 기술이 널리 쓰이고 있다. 특히 보이스피싱에 목소리를 사칭하는 '딥보이스' 사례가 국내외에서 이어지고 있다. 경찰청은 지난 5월 보도자료를 통해 “SNS에 음성이 포함된 게시물을 올릴 때는 주의하고 (전화로 오는) 의심스러운 요청은 반드시 사실 여부를 확인해야 한다”고 당부할 정도다. 목소리를 몇초만 학습해도 똑같은 음성을 구현하는 프로그램들이 있기에 일반인 음성을 구현하는 것도 어렵지 않다. 음성에 영상까지 더해 일론 머스크, 손석희 전 JTBC 보도담당 사장을 사칭한 피싱 영상도 확산됐다.

최근 논란이 된 성범죄에 악용되는 딥페이크는 기만성 여부가 크게 중요하지 않다는 점에서 차이가 있다. 피싱이나 허위정보에 쓰이는 딥페이크 기술은 허위 여부를 알게 되는 순간 영향력을 잃게 되지만 성범죄에 쓰이는 딥페이크는 이와 무관하게 피해가 확산된다. 따라서 딥페이크 탐지 기술 개발은 딥페이크 성범죄 대응 측면에선 큰 의미가 없다.

한국에선 정치적 허위정보보단 성범죄가 더 큰 문제로 대두되고 있다. 미국의 사이버보안업체 홈시큐리티히어로스가 만든 <2023 딥페이크 현황> 보고서에 따르면 지난해 7∼8월 딥페이크 성착취물에 등장한 인물 중 53%가 한국인으로 나타났다. 피해자는 주로 가수, 배우 등 연예인이었다. 보고서는 “한국은 딥페이크 성착취물에서 가장 많이 표적이 되는 나라”라고 했다. 지난해 방송통신심의위원회가 국회에 제출한 자료에 따르면 여성 아이돌 가수의 초상을 이용한 성적 허위정보는 불법음란사이트에서 딥페이크 영상물 형태(68.1%)와 SNS 등에 합성된 이미지 형태(31.9%)로 주로 유포됐다.

텔레그램 메신저와 다크웹 등에서 일반인을 대상으로 한 딥페이크 성범죄물은 현황 파악이 명확히 되지 않는다. 전국 학교 곳곳에서 피해 사례가 속출하고 있어 실제 피해 규모는 매우 클 것으로 보인다. 특히 미성년자가 대상이라는 점에서 문제가 심각하다. 경찰청이 양부남 더불어민주당 의원실에 제출한 자료에 따르면 딥페이크 피해 미성년자는 2021년 53명에서 2022년 81명, 2023년 181명으로 2년 만에 3.4배로 늘었다.

딥페이크 성범죄, 소지자·제작자도 처벌 추세

딥페이크 논란에 플랫폼 등에 AI로 제작했다는 사실을 표기하는 '워터마크'(식별표시)를 강제하는 규제가 국내외에서 논의되고 있는데 이는 딥페이크 성범죄에 대한 규제와는 분리해 볼 필요가 있다. 허위정보나 피싱 등 기만성이 있는 경우 AI가 만든 콘텐츠라는 점을 명시해 속는 것을 방지하는 차원에서 '워터마크' 논의가 나오게 됐다.

한국에선 성폭력범죄처벌 특례법에 따라 허위 영상을 유포하는 경우에 한해 처벌하고 있다. 반면 해외에선 유포자뿐 아니라 제작자나 소지자를 처벌하는 방안들이 해외에서 대안으로 마련되고 있다.

지난달 미국 캘리포니아주 의회를 통과한 인공지능 규제 법에 '아동 성착취물 제작' 등에 인공지능을 활용한 범죄 행위를 규정하고 처벌하는 내용이 있다. 이 법에 따르면 딥페이크 아동 성착취물 제작자뿐 아니라 배포, 소지자도 처벌 대상이 된다. 앞서 2022년 텍사스주 등에서도 딥페이크 음란물 제작자를 처벌하는 법안을 통과했다. 영국 법무부는 지난 4월 딥페이크로 음란물을 제작하는 행위 자체를 처벌하겠다고 밝히자 딥페이크 포르노를 만든 사이트들이 영국 접속을 차단시키는 결과로 이어진 사례도 있다.