선거철 딥페이크는 ‘풍자’ 아닌 ‘범죄’ … 민주주의 토대 허무는 것[Deep Read]

■ 임종인의 Deep Read - 선거와 딥페이크
가상·현실 경계 모호한 상황 틈탄 범죄 기승… 세계 5위 해커 보유국 北, 총선 심리전 가능성
‘대국민 세뇌’ 로 맞춤형 인식 변화 노리는 음모세력 위험… 유권자의 ‘AI 문해력’ 높이기 과제로

그래픽 = 하안송 기자

최근 윤석열 대통령의 허위조작 영상이 돌았다. “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 영상이었다. 2022년 대선 후보 당시 진행한 TV 연설을 짜깁기한 가짜였다. 22대 국회의원 선거가 음모가들의 선거 개입 시도에서 자유로울 수 없다는 것을 상기시킨 사건이었다.

딥페이크 등을 이용한 허위·조작 뉴스나 영상은 풍자가 아니라 범죄다. 특히 총선을 겨냥한 딥페이크는 선거라는 민주주의의 토대를 무너뜨리는 행위다.

◇AI 발전과 위협

인공지능(AI)은 단순한 기술을 넘어 우리 사회와 문화 전체를 바꾸고 있다. 챗GPT로 대표되는 생성형 AI 기술은 날이 갈수록 발전하는 중이다. 텍스트 위주의 대화형 AI에서 이제는 음악이나 영상 등 미디어를 생성하고 있다. AI에 영향을 받지 않을 산업을 찾는 것이 어려운 상황이다.

AI는 사회 각 분야 효율을 높이고 4차 산업혁명을 이끌 것으로 기대하고 있지만, 한편으론 우려되는 부분도 적지 않다. 대표적인 사례가 바로 딥페이크이다. 지난해 여름 할리우드 배우 파업의 주요 이유 중 하나는 자신들의 영상을 바탕으로 가상 배우를 만들어낼 수 있다는 우려였다. 올 1월에는 미국의 유명 여가수 딥페이크 포르노 이미지가 SNS상에 유포되면서 큰 논란을 일으켰다.

정치적으로 민감한 사안 혹은 선거철 딥페이크 악용 사례도 많이 보고되고 있다. 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 영상, 도널드 트럼프 전 미국 대통령 체포 사진 등이 유포된 바 있다. 올 1월 미 뉴햄프셔주 대선후보 경선 과정에서는 조 바이든 대통령이 투표 거부를 독려하는 딥페이크 음성 메시지가 유권자들에게 전화로 전달된 사례도 나타났다.

AI 기술만의 문제가 아니다. 메타버스를 비롯한 확장현실(XR) 기술은 발전하고 시장은 성장 중이다. 메타버스에 친숙한 젊은 세대가 사회 주축이 되면 메타버스와 XR 산업은 더 확장될 가능성이 크다. 메타 CEO 마크 저커버그가 최근 한국을 방문한 주요 목적도 AI 관련 반도체 공급망 확보와 더불어 XR 관련 기기 및 콘텐츠 개발을 위한 협력이었다.

애플이 출시한 신제품도 바로 XR 기기이다. 애플은 공간 컴퓨팅 개념을 도입하며 소비형 위주의 XR 환경에서 생산형 XR의 가능성을 제시했다. XR 환경에서는 가상의 자신을 닮은 아바타를 생성해 소통하는 경우가 많아서 가상과 현실의 경계가 모호해질 수 있다.

◇선거에 대한 위협

2024년은 글로벌 선거의 해이다. 대한민국의 국회의원 선거와 미국 대선을 비롯해 세계 76개 국가에서 주요 선거가 진행된다. 세계 국민의 절반은 투표에 참여하는 셈이다. 딥페이크와 가짜뉴스 등은 각국 선거에 위협으로 다가오고 있다.

악의적 목적으로 정교하게 만들어지는 딥페이크는 탐지가 어렵다. 대통령이나 정치인 등 AI가 학습할 데이터가 많고 손쉽게 구할 수 있는 인물 영상·이미지는 더욱 정교한 딥페이크 제작이 가능해 탐지가 더더욱 힘들다. 이는 적성국의 선거 개입을 위한 수단으로 사용될 우려가 크다.

이런 환경에서 북한이나 이에 호응하는 세력이 4·10 총선일 직전 윤 대통령이나 한동훈 국민의힘 비대위원장 등과 관련한 허위 조작 영상을 유포한다면 대응하기 어려워진다. 세계 5위 수준의 해커 보유국 북한이 딥페이크 영상으로 선거철 심리전을 펼칠 가능성도 있다.

다크웹 등 암시장에는 악의적 목적에 맞춤형으로 제작된 AI와 딥페이크 도구들이 활발하게 유통되고 있다. 이에 다보스포럼은 ‘2024년 글로벌 위험보고서’에서 향후 2년간 가장 큰 위험 요인으로 ‘AI를 활용한 허위정보에 의한 선거 개입’을 지목했다. 영국 국가사이버보안센터도 딥페이크 기술과 기타 AI 도구들이 다음번 영국 선거의 위협 요소가 될 것이라고 발표했다.

이러한 우려로 지난 2월 세계 최대의 연례 국제안보회의인 ‘뮌헨안보회의’에서는 AI에 대한 우려와 대응 방안이 깊숙이 논의됐다. 뮌헨안보회의는 처음으로 ‘기술이 안보 문제의 유발 요인’이라는 보고서를 내기도 했다. 오픈AI, 구글, 메타, IBM 등 20개의 테크 기업은 ‘선거에서 AI 기만적 사용 방지를 위한 기술 협약’에 합의하기도 했다.

◇탐지와 예방

딥페이크 등 AI의 악의적 활용을 탐지하고 예방하는 것은 매우 어려운 일이다. 미국 디지털혐오대응센터가 발간한 보고서에 따르면 여러 생성형 AI가 딥페이크 생성 시도를 막지 못한 비율이 41%나 됐다. AI들은 비윤리적 요청을 거부하는 보호장치를 두고 있지만, 프롬프트 등을 통해 이를 우회하는 기법들이 이미 연구·공유되고 있기 때문인 것으로 분석된다.

따라서 국가 차원에서 딥페이크에 대한 규제 정책이 절실하다. 프랑스의 경우 2017년 정보조작대처법 입법을 통해 선거 기간 온라인 플랫폼 사업자에게 투명성 의무를 부과하고 있다. 영국의 온라인안전법, 독일 네트워크집행법 등 딥페이크와 허위정보 등에 대한 대응 규제 역시 참고할 필요가 있다.

우리의 경우 개정 공직선거법 시행에 따라 딥페이크 영상을 활용한 선거운동은 선거일 전 90일부터 선거일까지 전면 금지된다. 그러나 악의적인 딥페이크 규제와 관련한 더 많은 노력이 필요하다. 저커버그 CEO가 최근 윤 대통령과 만난 자리에서 “가짜정보 유포를 제어하기 위해 선관위와 협업이 이뤄질 수 있다”고 밝힌 건 선거철 딥페이크의 심각성을 의식한 발언이다.

테크 기업들, 특히 해외 사업자에 대한 협력 방안 마련도 필요하다. 우리 기업들은 정부의 조치에 대해 72시간 이내에 대응하는 반면, 해외 기업들은 처리가 지연돼 허위정보가 확산하는 경우가 많다. 한·미 협력을 기반으로 우리 정부의 요청이 미국 기업들에 신속하게 집행될 수 있게 하는 패스트트랙 대안도 마련돼야 한다.

음모세력은 대국민 세뇌를 통한 맞춤형 인식 변화를 노린다. 따라서 무엇보다 중요한 과제는 유권자의 ‘AI 리터러시(문해력)’를 높이는 것이다. 온라인 영상과 이미지, 텍스트 등에 대해 신뢰할 수 있는 진본의 내용인지 늘 의심해야 할 필요성이 있다. 딥페이크 의심 영상을 공유하지 않고 즉각적인 신고 조치를 하는 생활태도를 기르는 것도 중요하다.

◇민주주의를 지키려면

AI 등 새로운 기술이 사회를 바꾸고 있지만, 진짜와 가짜의 경계나 현실과 가상의 경계가 모호해지는 상황이다. 자유민주주의를 위기에서 구하고 선거의 온전함을 지키기 위해 딥페이크에 대한 즉각적이고 효과적인 대응이 절박하다.

고려대 정보보호대학원 교수, 대통령 사이버특보

■ 용어 설명

‘뮌헨안보회의’는 유럽 최대 규모의 연례 국제안보회의. 1963년에 창설돼 매년 1, 2월 독일 뮌헨에서 개최되며 범세계적이고 지역적인 안보문제를 논의. 안보 분야의 다보스포럼으로 불림.

‘딥페이크(deepfake)’는 인공지능을 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어내는 인간 이미지 합성 기술. 딥러닝(deep learning)과 페이크(fake)의 합성어.

■ 세줄 요약

AI 발전과 위협 : AI는 단순한 기술을 넘어 사회와 문화 전체를 바꿔. 정치적으로 민감한 사안이나 선거철 딥페이크 악용 사례도 많이 보고됨. 딥페이크 등을 이용한 허위·조작 뉴스나 영상은 더 이상 풍자가 아니라 범죄.

선거에 대한 위협 : 악의적 목적으로 정교하게 만든 딥페이크는 탐지가 어려워. 세계 5위 해커 보유국 북한이 딥페이크로 선거철 심리전을 펼칠 가능성도. 딥페이크는 선거라는 민주주의의 토대를 무너뜨릴 수 있어.

탐지와 예방 : 음모세력은 대국민 세뇌 통한 맞춤형 인식 변화 노려. 무엇보다 중요한 과제는 유권자의 ‘AI 리터러시’ 높이는 것. 자유민주주의를 위기에서 구하려면 딥페이크에 대한 즉각적이고 효과적인 대응 절실.