통제불능 딥페이크 경제·사회 '대혼돈'

AI·해킹 기술 악용한
정체불명 조작영상 공습
민주주의·시장경제에 毒

깔끔한 정장의 40대 백인 앵커 '앨릭스(Alex)'가 입을 열었다. 앨릭스는 "미국에는 매년 600건에 달하는 총기사고가 발생하고 있고, 4만명에 달하는 미국인이 피살됐다"고 미국 정부를 강도 높게 비판했다. 울프뉴스 소속 앨릭스가 인용한 통계는 거짓이 아니다. 하지만 의도는 뚜렷하다. 미국이 총기 관리를 못하는 인권 후진국이라는 메시지다. 가상 앵커가 미국을 맹비난하자, 워싱턴은 즉각 추적에 나섰다. 리서치 업체인 그래피카(Graphika)에 따르면, 정체불명의 울프뉴스는 생성형 인공지능(AI)으로 제작됐으며 중국 공산당의 이익을 위해 활동하고 있는 것으로 나타났다.

AI를 앞세운 딥페이크(Deep fake) 뉴스가 진화하고 있다. 딥페이크 뉴스는 진짜와 가짜의 경계를 넘나든다. 특정 집단이 자유자재로 이미지와 동영상을 만드는 생성형 AI를 활용해, 가짜 앵커나 이미지를 만든다는 점에선 가짜다. 하지만 이들은 일정 부분 사실적 정보를 전달하기도 해 진짜와 닮았다. 분간도 처벌도 어렵다. 형식은 제각각이다.

옛 동영상을 짜깁기한 것부터 AI로 조작한 이미지까지 동원하고 있다. 이들 가짜뉴스는 공공에 대한 불신을 증가시키고 분열을 조장하며, 잘못된 의사결정을 유도한다는 점에서 사회적 '독'이라는 평가다. 마테오 살비니 이탈리아 부총리가 "가짜뉴스는 이제 24시간 유통되고 있다"고 한탄했을 정도다. '딥페이크'의 저자인 니나 시크는 "플랫폼 기업들이 허위 정보에 대해 더 많은 조치를 하지 않는다면 문제가 커질 수 있다"고 경고했다.

[이상덕 기자 / 황순민 기자]