민주주의 집어삼키는 '딥페이크'…"현존 어떤 매체보다 위협적"
빌 게이츠 마이크로소프트(MS) 창립자는 지난해 7월 자신의 블로그를 통해 "AI로 만든 딥페이크와 가짜 정보는 민주주의를 훼손할 수 있다"고 지적했다. 가짜뉴스가 그럴듯한 '가짜 증거물'과 결합돼 소셜 네트워크 서비스(SNS)를 타고 퍼지면서 유권자의 올바른 판단을 방해한다는 것이다. 국내에서는 제22대 국회의원 총선거를 약 두 달 앞두고 유세에서의 딥페이크 기술 사용이 전면 금지됐지만 전문가들은 "인지 능력만으로는 진위를 판단하기 어렵다"고 말한다.
4월 10일 열리는 국회의원 총선거를 앞두고 중앙선거관리위원회(선관위)는 딥페이크 기술로 만든 영상, 사진 등을 이용한 유세 활동을 29일부터 금지한다고 밝혔다. 딥페이크 기술은 인공지능(AI)을 활용해 사람이나 사물을 정교하게 합성, 매우 그럴듯한 가짜 이미지나 영상을 만드는 기술을 말한다.
선거운동용 딥페이크 영상은 전면 금지되며 이를 어길 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다. AI로 조작된 영상임을 표시한다고 해도 법에 저촉된다.
앞서 유력 정치인을 상대로 한 딥페이크 이미지와 음성 등이 유튜브, X(전 트위터) 등을 타고 공유됐다. 한동훈 국민의힘 비상대책위원장, 이재명 더불어민주당 당대표 등의 조작된 음성파일이 유튜브에 업로드됐다 삭제됐다. 대선을 앞둔 미국에서는 조 바이든 미국 대통령의 목소리로 '투표하지 말라'고 말하는 가짜 음성이 유포됐다. 지난해에는 도널드 트럼프 전 미국 대통령이 경찰에 체포되는 가짜 영상도 SNS를 타고 퍼졌다.
하지만 사람의 인지 능력만으로는 딥페이크를 구분할 수 없다는 분석이 나온다. 지난 2021년 10월 독일 막스플랑크 인간개발연구소 연구팀은 210명 실험참가자를 대상으로 딥페이크 영상을 구분하게 한 결과 "딥페이크 활용 여부를 가려낼 수 없다"는 연구 결과를 국제 학술지 '아이사이언스'에 발표했다. 연구진은 "대부분의 참가자는 실험 시작 전 '진위를 가려낼 수 있다'고 자신했지만 딥페이크에 계속해서 속았다"고 밝혔다.
국제 학술지 '사이언스'에 따르면 가짜 이미지는 통상 사진 속 피사체의 그림자 모양이나 미묘하게 일그러진 부분 등을 통해 구분할 수 있다. 티지 그루트웨이저 웨스턴 시드니대 컴퓨터뇌신경학자는 AI로 만든 가짜 음성의 경우 실제 사람의 발화에서 나타나는 '음…', '어…' 등의 음성이 거의 발견되지 않는다고 설명했다. 녹음 품질도 실제 사람 간 대화보다 더 좋은 편으로 나타났다. 다만 AI 기술이 정교해지면서 시각적인 분별은 더 어려워질 것이라는 분석이다.
딥페이크를 감지할 수 있는 애플리케이션(앱)도 개발되고 있다. IT 기업 '인텔'은 뉴욕주립대 연구팀과의 공동연구를 통해 96%의 정확도로 가짜 동영상을 밀리초 단위로 탐지할 수 있는 딥페이크 검출기 '페이크캐처'를 출시했다. 미세한 혈류의 변화 신호를 분석해 진위를 판단한다. 국내 AI 기업 '딥브레인AI'도 가상 얼굴이나 특정인의 얼굴을 합성한 딥페이크 이미지를 구분할 수 있는 탐지 서비스를 지난 12일 내놨다.
딥페이크 기술이 단순 가짜 뉴스 생산을 넘어서 '정보' 자체에 대한 불신을 야기할 수 있다는 지적도 나온다. 스티븐 슬로맨 미국 브라운대 인지심리학과 교수는 지난 29일(현지시간) 국제 학술지 '사이언스'에 "사람들에게 진짜 영상1개와 가짜 영상 1개를 보여주고 어떤 것이 딥페이크인지 고르라고 할 때 자신이 믿고 싶지 않은 영상을 딥페이크라고 지목할 가능성이 높다"고 말했다. 또 "이는 전문가나 딥페이크 탐지기의 분석 결과와는 무관할 것"이라고 말했다.
2021년 예일대 정치학과 연구팀이 논문 사전 게재 사이트 'OSF'에 발표한 실험 결과에 따르면 실험 참가자들에게 딥페이크 영상임을 표기한 정치 관련 영상을 보여준 결과 진위에 대한 분별보다는 '주어진 모든 정보 자체를 불신한다'는 반응이 나왔다. 슬로만 교수는 "딥페이크 기술은 현존하는 어떤 종류의 매체보다 더 큰 위협"일고 덧붙였다.
[박건희 기자 wissen@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.