'핵단추' 누르는 김정은 영상 버젓이···"워터마크 표시·리터러시 교육 필요"

[AI 딥페이크에 각국 선거 비상]
바이든 목소리로 투표 거부 사건도
AI기술 악용 사이버공격 심화 예상
모니터링 강화·신고 시스템도 중요

지난달 31일 유튜브 채널 ‘빅빅폴리틱’에 올라온 영상에서 김정은 북한 국무위원장이 ‘핵 단추’가 연상되는 빨간 버튼을 누르고 있다. 빅빅폴리틱 캡처

[서울경제]

지난달 31일 유튜브 채널 ‘빅빅폴리틱’에 김정은 북한 국무위원장이 웃는 표정으로 ‘핵 단추’가 연상되는 빨간 버튼을 누르는 영상이 게시됐다. 물론 실제가 아닌 인공지능(AI) 기술로 만든 ‘딥페이크’ 콘텐츠지만 안보 이슈에 민감한 유권자들에게 영향을 미칠 가능성을 배제할 수 없다. 구독자 564만 명의 유튜브 채널 ‘그냥 푸틴’에는 블라디미르 푸틴 러시아 대통령이 김 위원장과 영상통화를 하는 딥페이크 영상이 업로드됐다. ‘패러디’나 ‘밈’이라는 설명이 붙기는 했지만 언제든 AI가 유력 인물을 등장시켜 실제가 아닌 허위 정보를 유포할 수 있다는 가능성을 시사한다. 이경전 경희대 경영학·빅데이터응용학 교수는 “요즘 소셜네트워크서비스(SNS)에 떠도는 딥페이크 영상들은 창작자에게는 장난에 그칠 수 있지만 선거철을 맞아 이용자들의 의사결정에 영향을 주면 큰 문제가 될 수 있다”고 지적했다.

김정은 북한 국무위원장과 블라디미르 푸틴 러시아 대통령이 영상통화를 하는 딥페이크 영상. 유튜브 ‘그냥 푸틴’ 캡처

올해 국회의원 총선거가 예정된 한국을 비롯해 전 세계에서 선거가 연이어 실시될 예정인 가운데 허위 정보를 담은 ‘딥페이크’ 콘텐츠가 선거판을 뒤흔들 수 있다는 우려가 커지고 있다. 실제로 지난달 23일(현지 시간) 미국 뉴햄프셔주에서 치러진 비공식 민주당 프라이머리(예비선거)를 하루 앞두고 조 바이든 미 대통령의 가짜 AI 목소리가 투표 거부를 독려하는 일이 발생했고 대만 총통 선거에서는 민진당에 불리할 수 있는 다수의 딥페이크 영상이 퍼져 논란이 되기도 했다. 장병탁 서울대 AI연구원장은 “딥페이크 등이 정치에 이용되면 여론이 바뀔 수 있다는 것은 분명한 문제”라고 지적했다.

올해 총선을 치르는 우리나라도 딥페이크 등 AI를 악용한 사이버 공격이 심화할 것으로 예상된다. 백종욱 국가정보원 3차장은 지난달 가진 간담회에서 “올해는 우리나라 총선을 비롯해 세계 인구 절반 이상이 투표에 참여하는 ‘슈퍼 선거의 해’”라면서 “사이버 공격에 대한 철저한 대비가 절실한 시점”이라고 강조했다.

한국에서 딥페이크 등을 활용한 선거운동은 지난달 29일부터 금지됐다. 중앙선거관리위원회는 모니터링 전담 요원 59명과 AI 전문가 3명 등으로 구성된 감별반을 운영하고 있다. 딥페이크 영상 등을 활용한 선거운동 의심 사례를 찾으면 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가린다. 포털과 AI 플랫폼 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고 삭제 요청에 불응하면 과태료도 부과할 예정이다.

다만 후보자만 1000명이 넘을 것으로 예상되는 상황에서 감별반 규모가 부족하다는 지적이 나온다. 이에 전문가들은 AI로 제작한 콘텐츠의 워터마크 의무화가 필요하다고 강조한다. 미국은 바이든 대통령이 지난해 10월 AI로 만든 콘텐츠에 워터마크를 넣는 등의 내용을 담은 행정명령에 서명했다.

아울러 이용자가 AI 기술을 비판적으로 평가할 수 있는 능력인 ‘AI 리터러시’를 향상할 수 있도록 지원하는 등 종합적 대책이 필요하다는 주장도 제기된다. 이성엽 고려대 기술경영전문대학원 교수는 “AI 생성물에 대해 표시를 해 이용자가 의심하는 장치를 만드는 것이 필요하다”며 “이용자들도 의심하는 리터러시가 필요하고 플랫폼도 자체 모니터링을 강화해야 한다”고 말했다. 김명주 서울여대 바른AI연구센터장도 “선관위가 유권자를 대상으로 선거 관련 정보가 진짜인지 가짜인지를 구분할 수 있는 교육을 실시할 필요가 있다”며 “AI 딥페이크 영상 등 가짜뉴스에 대한 신고 시스템을 체계적으로 마련하는 것도 중요하다”고 전했다.

김성태 기자 kim@sedaily.com양지혜 기자 hoje@sedaily.com