가짜 뉴스, 가짜 동영상 중 어느게 더 나쁠까 [달콤한 사이언스]

아일랜드 코크대 연구진, 딥페이크와 기억 연구
딥페이크의 기억 왜곡 확인…가짜뉴스도 동일

딥페이크로 만든 동영상이 사람의 기억을 왜곡시킬 수 있다는 연구 결과가 나왔다. 딥페이크 기술로 영화 ‘맨 오브 스틸’의 여주인공 에이미 애덤스(왼쪽)를 다른 사람의 얼굴(오른쪽)로 바꾼 모습.

지난해 말 등장한 챗GPT로 대표되는 생성형 인공지능(AI) 기술에 관한 관심이 줄지 않고 있다. AI 기술은 일의 효율성을 높여준다는 장점도 갖고 있지만 가짜 정보의 확산과 같은 문제점도 갖고 있기 때문에 우려가 크다.

실제로 외국에서는 인공지능이 만든 텍스트 형태의 가짜 정보와 가짜 동영상이 레거시 미디어에 실려 논란이 되기도 했다. 그렇다면 가짜 정보 중 텍스트 형태와 영상 형태 중 어느 것이 사람들에게 더 나쁜 영향을 미칠까.

아일랜드 코크대(UCC) 응용심리학부, 아일랜드 과학재단 산하 소프트웨어 연구센터 공동 연구팀은 딥페이크 동영상은 사람들에게 잘못된 기억을 심는다고 17일 밝혔다. 이번 연구 결과는 미국 공공과학도서관에서 발행하는 국제학술지 ‘플로스 원’ 7월 7일자에 실렸다.

가짜 동영상으로 알려진 딥페이크는 AI를 이용해 동영상 속 사람의 목소리나 얼굴을 다른 사람의 것으로 바꿔치기한 것이다. 최근 딥페이크 제작 도구가 저렴해지고 접근성이 좋아지면서 잘못된 정보를 퍼뜨리고 시청자의 기억을 조작하는 등 잠재적 위험에 대한 우려가 커지고 있다.

연구팀은 18~65세 성인남녀 436명을 대상으로 먼저 영화 매트릭스, 샤이닝, 인디아나 존스, 캡틴 마블의 딥페이크 동영상을 시청하도록 했다. 그다음 연구팀은 이들에게 찰리와 초콜릿 공장, 토탈 리콜, 캐리, 툼레이더 등 실제 리메이크 영화 클립도 시청하게 했다. 시청이 끝난 뒤 일부 영화가 딥페이크라는 사실을 밝히고 영화에 대한 가짜 정보가 실린 글을 읽도록 했다. 시간이 지난 뒤 실험 참가자들을 대상으로 영화에 대한 기억 관련 설문조사를 실시했다.

그 결과 딥페이크 영상이라는 사실을 알고 있음에도 실제 리메이크 영화보다는 딥페이크 동영상을 더 잘 기억하는 것으로 나타났다. 실제로 참가자의 절반에 가까운 49%는 여전히 딥페이크를 진짜라고 믿고 나머지 사람들도 딥페이크가 원본보다 더 잘 만들어졌다고 생각하는 것으로 조사됐다.

그렇지만 참가자들 대부분은 딥페이크 기술을 이용해 영화를 리메이크하거나 찍는 데는 예술성 훼손, 영화에 대한 사회적 경험 왜곡 등을 이유로 반대한다는 모습을 보였다.

또 딥페이크 영상을 기억하지 못하더라도 가짜 정보가 실린 텍스트를 기억하는 사람들도 의외로 많은 것으로 나타났다.

연구를 이끈 길리언 머피 UCC 교수는 “딥페이크는 당사자의 합의 없이 동영상을 제작했다는 것뿐만 아니라 과거에 대한 기억을 왜곡하는 데 영향을 미칠 수 있음을 보여준다”라면서도 “이번 연구에서는 동영상뿐만 아니라 텍스트 정보도 기억을 왜곡할 수 있음을 보여준다”라고 설명했다.

유용하 기자

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -