선거 앞둔 인도·인니서 AI 딥페이크 기승…"허위정보 확산 부채질"

춤추는 모디 총리 숏폼 등장…정치권이 딥페이크 제작 의뢰도
허위정보 확산 속도 빨라져…"미국처럼 워터마크 의무화해야"

인도 5개주(州)에서 지방선거가 치러진 지난해 11월 서북부 라자스탄주 아지메르에서 여성 유권자들이 투표소에서 투표용지를 교부받는 모습이다. 2023.11.25. ⓒ 로이터=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 기자 = 올해 선거를 앞둔 인도와 인도네시아에서 유력 후보를 사칭한 딥페이크(deep fake·가짜 이미지 및 음성 합성) 영상이 소셜미디어상에서 기승을 부리고 있다. 생성형 인공지능(AI) 기술이 널리 활용되면서 나타난 부작용으로 정부가 제작자를 일일이 단속하기 어려운 만큼 유통책인 소셜미디어 규제를 강화해야 한다는 여론이 힘을 얻는 분위기다.

3일 로이터 통신에 따르면 나렌드라 모디 인도 총리가 힌디어로 춤추며 노래하고 프라보워 수비안토 인도네시아 국방장관이 아랍어로 유창하게 연설하는 숏폼이 최근 현지 인스타그램과 틱톡에서 빠르게 확산하고 있다.

그러나 이들 영상은 모두 AI로 제작된 딥페이크물인 것으로 드러났다. 오는 5월 치러지는 총선에 출사표를 던진 모디 총리는 세번째 연임에 도전한다. 수비안토 장관은 2월 대선에서 조코 위도도 현 대통령 아들과 러닝메이트를 결성, 지지율 1위를 달리는 유력 야권 후보다. 이번 딥페이크물이 초대형 선거를 앞두고 여론을 호도하려는 목적으로 기획된 것 아니냐는 의구심이 나오는 배경이다.

실제로 영상 산업이 발달한 인도에선 딥페이크 제작을 의뢰하는 움직임도 포착됐다. 영화사와 방송사에 AI를 활용한 컴퓨터그래픽(CG) 영상을 납품해 온 디빈드라 싱 자두운(30)은 얼마 전 총선 선거운동에 쓸 딥페이크물 제작이 가능하냐는 문의 전화를 정치권으로부터 받았다고 로이터에 증언했다.

지난달 고향인 인도 라자스탄주 지방선거에서 후보 간 치열한 경쟁을 목격한 라자운은 이번 총선이 대목이란 생각이 잠시 들었지만 고민 끝에 의뢰를 거절했다고 말했다. 그는 "딥페이크 성능이 워낙 뛰어나기 때문에 품 들이지 않고 출력물을 양산할 수 있다"면서도 "웬만한 사람들은 진위를 구분하지 못한다. 딥페이크에 대한 최소한의 가이드라인조차 없는 실정이라 유권자 민심에 영향을 줄까 봐 두려웠다"고 고백했다.

전문가들도 딥페이크물 확산이 각국 선거에 미칠 영향을 우려했다. 오클라호마 주립대 미디어학부의 누리안타 잘리 조교수는 로이터와의 인터뷰에서 "이미 허위 정보가 만연한 환경에서 AI가 생성한 콘텐츠는 대중의 인식을 더욱 왜곡하고 투표 방식에 악영향을 끼칠 수 있다"면서 "인간 행위자만으로는 달성하기 어려운 속도와 규모로 새로운 허위 정보를 유권자 맞춤형으로 퍼뜨리는 게 가능하다"고 지적했다.

지난해 대형 선거가 있었던 튀르키예(5월 대선), 아르헨티나(11월·대선), 뉴질랜드(12월·총선) 등지에선 이러한 우려가 현실화됐다. 미드저니, 스테이블 디퓨전, DALL-E(달리)와 같은 이미지 생성 AI 도구로 제작된 딥페이크물이 각국에 등장하면서 선거를 혼탁하게 했다. 이를 두고 미국 비영리단체인 프리덤 하우스는 보고서를 통해 AI가 허위 정보의 생성과 확산을 더욱 빠르고 저렴한 방법으로 돕고 있다고 지적했다.

당장 오는 7일 총선이 코앞으로 다가온 방글라데시는 비상이 걸렸다. 셰이크 하시나 총리의 4선이 유력한 가운데 야당 여성의원인 루민 파르하나와 니푼 루이가 비키니를 입은 딥페이크물이 온라인상에 무더기로 유포됐다. 이슬람 국가인 방글라데시에선 여성의 맨살이 드러나는 것을 금기시 하기 때문에 '흠집 내기용 공작'이란 해석이 다분하다.

지난해 전세계 소셜미디어에서 공유된 딥페이크물은 최소 50만건에 달할 것으로 합성 탐지 도구 개발업체 딥미디어는 추정했다. 인도(9억)·인도네시아(2억)·방글라데시(1억) 선관당국에 등록된 유권자수는 모두 13억명 이상이다. 이들 3개국은 선거를 앞두고 최근 온라인 콘텐츠를 엄중 단속하는 한편 허위 정보로 간주된 콘텐츠를 방관하는 소셜미디어에 책임을 묻는 법안을 통과시켰다.

현지 서비스를 제공하는 소셜미디어 기업들도 새로운 규제에 발맞추기 위해 고군분투하고 있다. 페이스북·인스타그램·왓츠앱을 소유한 메타는 합성 사실을 게재하지 않아 오해를 부를 만한 게시물들은 즉각 삭제하는 것을 목표로 하고 있다고 밝혔다. 그럼에도 현지 시민단체들은 정부가 소셜미디어에 대한 규제의 고삐를 더 좨야한다고 목소리를 높였다.

액세스 나우의 아시아 정책 담당관인 라만 지트 싱 치마는 로이터에 "플랫폼이 선제적으로 대처하지 못하고 있다"면서 미국 대선에 적용되는 가이드라인을 준용할 필요가 있다"고 조언했다. 미 백악관은 지난해 10월 인간 창작물과의 구분을 위해 AI 생성 자료에는 별도의 워터마크를 부착하도록 강제한 행정명령에 서명한 바 있다.

seongskim@news1.kr