'얼굴도둑 넘어 성범죄까지'...진화하는 딥페이크, 당신도 타깃

[u클린 2021] ③-1 AI시대 새 범죄 수단, AI로 잡는다

[편집자주] AI(인공지능)는 인간의 따뜻한 친구가 될 수 있을까. 인류의 삶을 풍족하게 만들기 위해 고안된 AI는 그러나 최근 알고리즘의 편향성과 부작용 등 각종 논란에 휩싸여있다. AI 뿐 아니다. 빅데이터와 사물인터넷, 로봇, 생명과학 등 4차산업혁명 기술은 앞으로 어떻게 활용되느냐에 따라 양날의 칼이 될 수 있다. 올해 U클린 캠페인은 '사람 중심의 지능정보기술'(Tech For People)을 주제로 새로운 기술이 필연적으로 수반하는 윤리적 문제와 해법을 제시한다.

마이크로소프트가 지난 1월 세계 최대 가전 전시회 CES에서 선보인 딥페이크 영상 탐지 솔루션. 좌우가 비슷해 보이지만 해당 이미지가 딥페이크로 추정되는 순간 빨간색으로 이미지가 딥페이크일 확률이 나타난다. /사진=마이크로소프트 블로그

#20대 여성 A씨는 지난 1월 SNS(사회관계망서비스)를 하다가 섬뜩한 경험을 했다. 200만원을 보내지 않으면 A씨 얼굴을 합성한 딥페이크 음란물을 유포하겠다는 협박성 메시지를 받은 것이다. A씨는 이 계정을 경찰에 신고했다.

국가정보원 국제범죄정보센터(TCIC)는 지난달 발간한 '국제범죄위험알리미'에 이같은 사례들을 싣고 딥페이크 범죄 피해에 대해 경고했다.

인공지능(AI) 기술 중 하나인 딥러닝(심화학습)의 '딥(deep)'과 '가짜(fake)'의 합성어인 '딥페이크'가 4차 산업혁명 시대의 새로운 범죄 기법으로 자리잡은 지 오래다. 이미 만들어진 가짜를 구분하거나 애초에 이미지 변조를 막는 방법 등 딥페이크 탐지·방지 기술 연구와 사회적 감시를 위한 글로벌한 딥페이크 방어 체계를 구축할 필요성이 제기된다.

━

쉬워진 제작기술…성착취·금전 갈취 수단으로

━

딥페이크는 사진과 영상을 인공지능 기술로 자동 변조하는 CG(컴퓨터그래픽) 기술을 뜻한다. 2014년 개발된 GAN(생성적 적대 신경망)이라는 딥러닝 알고리즘이 이용된다. GAN 기술은 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘을 서로 경쟁시키듯 학습시키면서 진짜 이미지와 가짜 이미지의 오차를 줄여 '진짜같은 가짜'를 만들어내는 원리다. 이 알고리즘으로 아예 세상에 없는 얼굴을 만들 수도 있고, 훈련 데이터로 실제 사람 얼굴을 넣으면 '진짜같은 가짜' 딥페이크 합성물이 탄생하게 된다.

딥페이크 범죄가 무서운 것은 현실에서 얼굴을 마주보는 지인에게도 얼마든지 내 얼굴을 도둑맞을 수 있다는 점이다. SNS에 올린 사진 한장만 있어도 거의 진짜같은 가짜 영상을 만들 수 있다. 네덜란드 AI 연구소 센서티가 발간한 보고서에 따르면 지난해 7월까지 텔레그램 기반 '딥페이크봇'을 이용한 전세계 딥페이크 합성물 63%가 '가해자들이 실제로 알고 지내는 여성'을 합성한 것으로 조사됐다.

딥페이크를 어렵지 않게 만들 수 있는 애플리케이션과 라이브러리(소프트웨어 개발을 위한 하부 프로그램)가 다양해지면서 가해자와 피해자들의 연령대는 점점 어려지고 있다. 지난달 경찰청 국가수사본부 발표에 따르면 지난해 12월부터 5개월간 딥페이크 불법합성물을 만들고 유포한 디지털 성범죄 피의자 94명 중 69.1%가 19세 미만 청소년이었다. 피해자도 19세 미만이 57.9%로 가장 많았다. 학교 선생님, 동창생 등이 피해자가 되고 같은 반 학생이 가해자가 되는 식이다.

딥페이크를 성범죄뿐 아니라 사기 용도로 이용하는 사례도 적지않다. 각종 피싱에 보험사기, 세금 탈루 등 종류도 다양하다. 음성 합성에도 GAN 알고리즘이 쓰이면서 이른바 '딥보이스'(보이스 딥페이크) 사기로 확장되고 있다. 월스트리트저널 등 외신에 따르면 이미 2019년 3월 영국의 한 에너지회사 대표는 거래 보험사 CEO 목소리를 사칭한 딥보이스 사기에 당해 22만 유로(약 3억원)을 뜯겼다.

정부나 기업으로 피해가 번지자 보안 전문가들 사이에서는 앞으로 딥페이크가 국가 안보까지 위협할 수 있다는 우려도 나온다. 코로나19 이후 비대면 신원 확인 시스템이 늘어나면서 딥페이크로 위조여권을 만들고 밀입국해 각종 밀수나 해외도피, 테러 등 범죄를 벌일 가능성도 제기되는 것이다.

━

"이에는 이, AI에는 AI"…딥페이크 탐지 전쟁

━

이에 딥페이크 탐지 기술과 방어 체계를 더 고도화해야한다는 목소리가 나온다. 정보보호업계에 따르면 최근 FBI(미 연방수사국)나 인터폴(국제형사경찰기구), 국정원 등 각국의 수사·정보기관들도 각기 국가 안보를 위한 딥페이크 탐지 체계 내지는 공조 체계를 만들기위해 고심하고 있다.

AI 학계와 관련 업계는 AI가 만든 딥페이크 이미지에 역으로 AI 알고리즘을 적용해 이를 차단하는 방안을 추진한다. 이를테면 △ GAN으로 생성한 이미지에 다시 GAN 알고리즘을 적용해 위조 여부를 탐지하는 기술 △이미지 픽셀을 차례로 훑어 나가면서 픽셀의 고유값을 학습하는 원리의 CNN(합성곱신경망)을 활용한 위조 탐지 기술 △정상 이미지와 위조 이미지의 픽셀 패턴을 비교해내는 기계학습 알고리즘 등이 연구되고 있다.

하지만 딥페이크 위변조 기술의 진화 속도나 새로운 위변조 이미지 생성 속도가 워낙 빨라 탐지율을 높이기는 쉽지 않다. 페이스북은 2019년부터 전세계 연구자들을 대상으로 딥페이크 영상 탐지 기술 경연대회도 열고 있다. 지난해 대회에서 1위를 차지한 알고리즘은 탐지 정확도가 65%에 그쳤다. 페이스북은 계속 딥페이크 탐지 기술 연구용 영상 데이터셋을 업데이트하면서 탐지 연구를 장려하고 있다.

삼성SDS 사내벤처 '팀나인(Team 9)'이 만든 딥페이크 탐지 솔루션 시연 예시. /사진=삼성SDS

최근에는 기술진전도 이뤄지고 있다. 마이크로소프트는 지난 1월 세계 최대 가전 전시회 CES에서 영상의 퇴색 정도를 분석해 가짜뉴스 유포 방지용 딥페이크 영상물 탐지 기술을 선보였다. 국내에서도 신분증 등 정지 인물 이미지와 관련 삼성SDS 사내 벤처 팀나인과 최종원 중앙대 첨단영상대학원 교수 연구팀이 위변조 여부를 99.9%까지 판단하는 탐지 기술을 개발했다. 이들은 지난 4월부터는 보험 사기 등을 막기 위한 딥페이크 변조 사물 이미지 합성 기술로 연구를 확장했다. 이흥규 카이스트 전산학부 교수 연구팀도 자체 연구한 이미지 위변조 기술을 이용해 만든 딥페이크·사진 위변조 탐지 앱 서비스 '카이캐치'를 지난 3월 상용화했다.

백지수 기자