가상자산 사기 '유튜버 딥페이크' 의혹 확산..전문가 분석은 "실제 사람 맞아"

이형두 2021. 5. 13. 14:16
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

총 1000억원 이상 투자금을 모집한 후 사이트를 폐쇄하고 잠적한 불법사기 가상자산 거래소 '비트바이코리아'와 관련, 피해 확산에 큰 영향을 미친 유튜브 광고 채널 출연자들이 인공지능(AI) 딥페이크 기술로 구현된 '버추얼 휴먼'이라는 의혹이 제기됐다.

13일 업계에 따르면 비트바이코리아 광고 영상이 송출된 '미나코인' '돈잘버는언니' '코인잘아는여자' 등에 출연한 여성들이 딥페이크 기술로 조작됐다는 주장이 사기 피해자와 가상자산 유튜버들을 중심으로 확산 중이다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

총 1000억원 이상 투자금을 모집한 후 사이트를 폐쇄하고 잠적한 불법사기 가상자산 거래소 '비트바이코리아'와 관련, 피해 확산에 큰 영향을 미친 유튜브 광고 채널 출연자들이 인공지능(AI) 딥페이크 기술로 구현된 '버추얼 휴먼'이라는 의혹이 제기됐다.

13일 업계에 따르면 비트바이코리아 광고 영상이 송출된 '미나코인' '돈잘버는언니' '코인잘아는여자' 등에 출연한 여성들이 딥페이크 기술로 조작됐다는 주장이 사기 피해자와 가상자산 유튜버들을 중심으로 확산 중이다.

이들은 △'8개월 만에 25억원을 벌었다'는 등 사기 광고임이 뚜렷한 영상에 모델이 직접 얼굴을 노출한 점 △출연자가 가상자산 마진거래 등에 대한 이해도가 떨어져 대본을 읽는 듯한 인식을 준다는 점 △영상에 나타난 얼굴 윤곽이 다른 버추얼휴먼 예시 영상과 유사하다는 점 등을 근거로 제시하고 있다.

그러나 딥페이크 기술 전문가들은 해당 영상이 조작됐을 가능성은 극히 희박하다는 분석을 내놓고 있어 진실 공방이 벌어질 태세다. 한국과학기술원(KAIST) 전산학부 이흥규 교수 연구팀이 개발한 인공신경망 기반 딥페이크 탐지 솔루션 '카이캐치' 분석에 따르면 유튜브 채널 미나코인에 활용된 얼굴 영상이 딥페이크 기술로 조작됐을 가능성은 0%로 나타났다.

카이캐치 연구팀은 30여만장 이미지 데이터, 포렌식 영상 데이터, 딥페이크 실험 영상 자료 등을 인공신경망을 통해 학습, 미세 변형 및 이상 신호 흔적을 탐지할 수 있는 기술을 개발했다. 이를 이용해 얼굴 영역 미세 변형이나 코, 입 얼굴 윤곽 등 얼굴 내 기하학적 왜곡이 발생 가능한 영역에서 신호 흔적을 분석해 딥페이크를 탐지하게 된다. 연구팀은 예측할 수 없거나 알려지지 않은 변형 기법을 사용해도 90% 안팎 정확도로 탐지할 수 있다고 자신했다.

딥페이크 영상을 검증할 수 있는 딥러닝 모델 '디텍트딥페이크.AI'를 개발한 머니브레인 연구팀 역시 “미나코인 영상은 딥페이크 조작 영상이 아닐 가능성이 높다”는 의견을 제시했다.

머니브레인 연구팀은 “딥페이크 영상은 눈으로 봐서도 얼굴 부분 등에서 특징을 발견할 수 있는데, 해당 영상은 연구팀이 직접 육안으로 확인해도 이와 같은 특징이 발견되지 않는다”며 “다만 분석한 영상이 원본이 아니라, 동영상 인코딩 과정에서 압축방식이 바뀌면서 화면의 통계적 특성이 달라짐에 따라 정확도가 떨어질 수는 있다”고 설명했다.

이와 같은 '버추어휴먼' 논란이 불거지는 이유는 최근 딥페이크 기술이 크게 발전함에 따라 일반인들은 영상 진위 여부를 육안으로 구분하는 것이 사실상 불가능하기 때문이다. 딥페이크를 검출하는 가장 확실한 방법은 딥페이크 영상과 팩트 영상을 구분하도록 딥러닝 모델을 학습, 신경망이 스스로 구분 가능한 패턴을 찾아내도록 하는 것이다.

머니브레인 연구팀은 “합성된 영상의 픽셀 값 분포는 합성되지 않은 영상과 다른 특징을 가진다”며 “일반적으로 패턴을 사람이 정확하게 이해하기는 어렵기 때문에 딥러닝 학습이 필수적”이라고 말했다.

이형두기자 dudu@etnews.com

Copyright © 전자신문. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?