[월드리포트] 안 속으면 그만?…민주주의 위협하는 '독버섯'
2024년은 전 세계 76개 국가에서 선거가 열리는 '슈퍼 선거의 해'입니다. 그중에서 4월 국회의원 선거만큼 우리나라에 큰 영향을 미치는 선거가 있습니다. 잘 아시는 것처럼 11월 미국 대선입니다. 가뜩이나 복잡한 미국 대선에 또 다른 복병이 등장했습니다. 이른바 '딥페이크'로 불리는 조작 영상입니다. 전문가들은 이미 2020년 혹은 그 이전부터 딥페이크의 위험성을 경고해 왔습니다.
정교한 조작 영상만 위험할까
딥페이크 관련 콘텐츠는 이미 누구나 온라인상에서 쉽게 접할 수 있습니다. 어떤 건 누가 봐도 금방 티가 나고 또 어떤 건 아무리 봐도 진위를 알 수 없을 만큼 완벽한 것도 있습니다. 그렇다면 정교하게 조작된 콘텐츠만 위험한 걸까요? 반드시 그렇지는 않습니다. 여기에 노출된 사람이 누구인가 하는 점도 중요합니다.
영상물을 보는 사람이 평소 그쪽 분야에 관심이 많던 사람이라면 영상물의 수준뿐 아니라 콘텐츠 자체 내용을 보고도 조작 여부를 의심할 수 있습니다. 예를 들어 특정 정당의 인사가 평소 소신과 전혀 다른 발언을 한다든가, 상식적으로 납득하기 어려운 행동을 하는 경우 등을 상정해 볼 수 있습니다. (실제로 힐러리 클린턴이 디샌티스 플로리다 주지사를 지지하거나 바이든 대통령이 성소수자를 비하하는 내용의 조작 영상이 유포된 적이 있습니다.)
이걸 역으로 뒤집어 말하면, 평소 인터넷 환경에 익숙하지 않거나 해당 분야 내용을 잘 모르는 사람이 딥페이크 영상에 노출될 경우, 설사 영상 합성 수준이 좀 떨어진다 해도 여기에 훨씬 강하게 영향을 받을 수 있다는 뜻이기도 합니다. 따라서 그냥 내가 보기에 뻔한 딥페이크 콘텐츠라고 해도 위해성이 없다고 말하기는 어렵습니다.
"조작인지 알아도 미묘한 영향"
여기까지는 누구나 생각해 볼 수 있는 딥페이크의 폐해입니다. 취재를 위해 인터뷰한 수브라흐마니안 미국 노스웨스턴대학교 컴퓨터 공학과 교수는 딥페이크가 특히 민주주의 제도에 끼칠 수 있는 몇 가지 다른 악영향을 지적했습니다. 먼저 딥페이크를 접한 사람이 설사 조작물인 걸 어느 정도 눈치챈다 해도 잠재적인 영향을 받을 수 있다는 것입니다.
수브라흐마니안 교수는 "한번 본 시각적 이미지는 잊기 어렵다. 후보자 자신의 목소리로 전달된 메시지는 일단 들으면 듣는 사람의 머릿속에 각인되는 경향이 있다. 유권자가 자신이 보거나 들은 내용이 가짜라는 것을 어느 정도 알고 있더라도 후보자에 대한 인식에 미묘하게 영향을 미칠 수 있다"라고 설명했습니다.
하지만 더 큰 위험은 따로 있습니다. 딥페이크가 선거 결과의 정당성을 훼손하거나 심지어 이를 부정하는 빌미가 될 수 있다는 점입니다. 사실 딥페이크 영상이 논란을 일으킬 경우 해당 영상이 실제 선거 결과에 얼마나 영향을 미쳤는지는 확인하기 어렵습니다. 바로 이 점이 문제입니다. 예를 들어 정당하게 승리한 후보자라고 해도 그에게 유리한 딥페이크가 유포됐다면 설사 그 영향이 미미했다 해도 패배한 후보자에게는 부정 선거를 주장하는 빌미가 될 수 있습니다. 만약 선거가 박빙이었다면 문제는 더욱 심각해집니다.
후보자 본인이나 캠프 측이 고의적으로 만든 게 아니라 일부 극성 지지자가 유포한 것이라고 해도 결과는 마찬가지입니다. 수세에 몰린 쪽에서 선거 결과를 인정하지 않기 위해 고의로 상대 후보 쪽 조작 영상을 유포하는 최악의 상황도 상정해 볼 수 있습니다. 극단적 사례이기는 하지만 민주주의의 근간인 선거 제도를 위협할 수 있다는 점에서 만의 하나라도 있을 위험이 있다면 대비해서 나쁠 건 없습니다.
'딥페이크'는 나쁜 것?
딥페이크는 인공지능의 심층학습을 뜻하는 <Deep Learning>과 가짜를 뜻하는 <Fake>가 합쳐진 말입니다. 주로 음란물 합성이나 선거 범죄 등 나쁜 쪽으로만 기사화되다 보니 딥페이크를 범죄와 관련 기술로 생각할 수 있습니다. 하지만 딥페이크는 디지털 합성 기술로 그 자체는 가치중립적입니다. 단어 자체에 '가짜'라는 말이 들어가 있으니 그 자체가 나쁜 것처럼 보일 수 있지만 영화나 창작물에 활용되고 있는 기술이기도 합니다.
딥페이크를 무조건 나쁘게만 바라보는 게 답은 아닙니다. AI 발달과 함께 이제는 누구나 딥페이크를 만들 수 있는 환경이 됐습니다. 프로그래밍을 잘 몰라도 인터넷에 공개된 프로그램만 활용하면 얼마든지 만들 수 있습니다. 늘 그렇듯 기술은 누가 어떻게 사용하느냐에 따라 사회에 도움이 될 수도, 해악을 끼칠 수도 있습니다. 불이 위험하다고 해서 그냥 춥게 지내고 말지, 어떻게든 삶에 유용한 도구로 활용할지는 그 사회가 선택할 몫입니다.
▷ 누구나 너무 쉽게…발전한 딥페이크, 유권자를 노린다 (지난 3월 1일자 8뉴스)
[ 원문 링크 :
https://news.sbs.co.kr/d/?id=N1007556570]
남승모 기자 smnam@sbs.co.kr
Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
- [영상] "의협이 그렇게 허술·무식한 단체 아니에요!"…'전공의 블랙리스트 비밀 문건' 주장에 격
- [뉴블더] 현관문에 의문의 마스크…"게임은 시작됐다"
- [뉴스딱] 환자 손톱 깎아주다 출혈…숨기려다 괴사시킨 간병인
- '2년간 직원 임금체불' 방송인 홍록기 파산
- 정동원 측 "父 교도소 수감? 몰랐다…가족사에 힘든 시간"
- 10년째 난민 돕는 정우성…"한국인 먼저 돕는 건?" 묻자
- "여자라 콜 배제·성희롱"…차별·편견 시달리는 여성 대리기사
- [뉴스딱] 자녀 대신 사과했더니 "5배 물어내라", 왜?
- 원희룡 "거리 인사하던 이천수 폭행 당해…용납 않겠다"
- 이재명, 재판 출석하며 "무작위 기소로 재판 끌려다녀"