생성형AI 등장 이후 첫 총선 앞둔 한국...AI發 가짜뉴스에 맞설 묘수는?

중앙선관위, 생성형 AI 가짜뉴스 규제 방안 마련 착수
해외에선 이미 AI 가짜뉴스가 선거에 개입
AI 탐지 기술·워터마크 등 대안은 완성도 낮아

중앙선거관리위원회가 내년 총선을 앞두고 챗GPT 같은 생성형 인공지능(AI)을 활용한 가짜뉴스 대비책 마련에 나섰다. 중앙선관위는 14일 ‘생성형 AI 신기술 도입에 따른 선거 규제 연구’ 용역을 발주했다.

중앙선관위는 “생성형 AI는 인터넷상의 광범위한 데이터를 통해 자체적으로 생성물을 창작함에 따라 진위 판별과 저작권 등의 법적 책임이 불분명하다”며 “허위사실이 포함된 콘텐츠를 누구나 쉽게 만들어낼 수 있는 문제가 있다”고 설명했다. 중앙선관위는 올해 말까지 연구 용역 결과를 받은 뒤 생성형 AI의 가짜뉴스에 대한 구체적인 규제 방안을 마련한다는 계획이다.

AI를 이용한 가짜뉴스에 대한 우려는 계속해서 제기되고 있다. 앞서 윤석열 대통령은 지난 13일 비상경제민생회의에서 “전 세계 정치인을 만나면 가짜뉴스가 AI와 디지털을 이용해 빛보다 빠른 속도로 확산하면서 자유민주주의를 훼손하고, 우리 미래를 망칠 수 있다는 얘기를 한다”며 우려를 표시했다.

◇해외에선 일상이 된 AI發 가짜뉴스

한국에서는 아직까지 AI가 만든 가짜뉴스가 큰 논란을 일으킨 적이 없다. 하지만 해외에서는 이미 AI를 이용한 가짜뉴스가 일상으로 여겨질 만큼 만연해 있다. 여러 선거에서 AI가 만든 가짜뉴스가 판도를 바꾸는 일도 실제로 벌어지고 있다.

지난 3월 유포된 도널드 트럼프 전 미국 대통령이 수갑차고 경찰에 연행되는 가짜사진./조선DB

지난 2일 미국 공화당의 유력 대선 후보인 론 디샌티스 플로리다 주지사가 ‘대선 경선을 포기하겠다’고 선언하는 영상이 한 유튜브 계정에 올라와 논란이 됐다. 앞서 도널드 트럼프 전 대통령이 디샌티스가 경선을 포기할 것이라는 루머가 있다고 언급한 적이 있어서 이 영상은 소셜미디어에서 더 빠른 속도로 확산됐다. 하지만 이 영상은 AI를 이용해 만든 딥페이크 영상으로 확인됐다.

디샌티스 주지사가 AI 가짜뉴스의 피해자 같지만 디샌티스 주지사 진영이 AI를 이용한 가짜뉴스를 퍼뜨린 사례도 있다. 디샌티스 주지사 진영은 지난 6월 트럼프 전 대통령이 앤서니 파우치 전 국립 알레르기·전염병 연구소장을 끌어안는 모습이 담긴 광고를 게재했다. 앤서니 파우치는 공화당 지지층에게는 공적처럼 여겨지는 인물이다. 이 이미지는 실제가 아니라 AI를 이용해 만들어낸 이미지였다. 트럼프 전 대통령의 지지율을 깎아내리기 위한 꼼수였던 셈이다.

하니 파리드 미국 버클리 캘리포니아대 교수는 미 공영라디오방송인 NPR과의 인터뷰에서 “이제 선거에서 후보가 말하는 내용이 진짜인지 아닌지 분간할 수 없게 됐다”고 말했다.

AI를 이용한 가짜뉴스가 실제 선거의 판도를 바꾸는 경우도 나오고 있다. 지난 5월 튀르키예 대선에서는 에르도안 대통령과 야당 후보인 케말 클르츠다로을루가 접전을 벌였다. 그런데 테러 단체가 야당 후보를 지지한다는 가짜 영상이 퍼지면서 결국 대선에서 에르도안 대통령이 5%P 차이로 이겼다. 이 영상은 AI 딥페이크를 이용해 교묘하게 만든 영상이었다.

◇기술 발달 따라잡지 못하는 규제

AI 가짜뉴스가 전 세계 선거판을 뒤흔들고 있지만, 이를 막을 기술이나 규제는 마땅치 않은 게 현실이다. 유럽연합(EU)은 디지털 서비스법을 제정해 소셜미디어 플랫폼이 가짜뉴스 같은 불법 콘텐츠 확산을 제한하는 법적 근거를 만들려고 하고 있다. 이 법은 2024년 2월 시행을 앞두고 있다.

영국과 호주, 브라질, 캐나다에서도 비슷한 법안이 추진되고 있고, 유엔도 행동 강령을 만들고 있지만 정작 미국은 규제 움직임에 소극적이다. 민주주의에 대한 디지털 위협을 해결하기 위해 노력하는 시민단체인 루미네이트(Luminate)의 대표인 스티븐 킹은 과학전문 매체인 뉴사이언티스트와의 인터뷰에서 “현재 허위 정보가 생산되고 유통되는 방식을 생각해보면 생성형 AI는 이를 더욱 가속화할 것”이라며 “1년 후, 2년 후에는 우리가 상상할 수 없을 정도로 규모가 커질 것”이라고 경고했다.

온라인 상의 허위 정보에 맞서는 기술 기업인 로지컬리(Logically)는 지난 7월 미드저니, DALL-E 2, 스테이블 디퓨전 등 세 가지 이미지 생성AI를 이용해 정치적 이슈와 관련이 있는 가짜 이미지를 만드는 실험을 진행하기도 했다. 그 결과 일부 이미지는 AI가 생성을 거부했지만, 대부분의 경우는 가짜 이미지를 어렵지 않게 만들 수 있었다.

윤석열 대통령이 13일 청와대 영빈관에서 제20차 비상경제민생회의 겸 대한민국 초거대 AI 도약 회의를 주재하며 모두발언을 하고 있다./대통령실

문제는 기술의 발전 속도다. 지금은 생성형 AI가 텍스트와 이미지, 동영상으로 나뉘어 있다. 글과 사진, 동영상을 동시에 생성하는 AI는 아직까지 없다. 하지만 AI 분야의 기술 발달 속도가 매우 빠르기 때문에 다양한 형식의 콘텐츠를 만드는 생성형AI의 등장도 머지 않았다는 게 과학계의 전망이다. 구글 딥마인드는 텍스트와 이미지, 동영상을 동시에 생성할 수 있는 AI가 다음 목표라고 제시한 바 있다.

반면 각국 정부와 기업들이 만드는 대응책은 완성도가 여전히 낮은 수준이다. 챗GPT를 만든 오픈AI는 생성형 AI를 찾아낼 수 있는 ‘클래시파이어’를 출시했고, 인텟은 영상이 딥페이크인지 가려내는 ‘페이크캐처’라는 기술을 내놨다. 하지만 이런 딥페이크 탐지 기술의 정확도는 70%를 밑돌고 있다.

AI로 생성된 콘텐츠에 강제로 디지털 워터마크(식별부호)를 삽입하는 방법도 있다. 사람이 직접 작성한 콘텐츠와 AI가 만든 콘텐츠를 구별하는 것만으로도 AI 가짜뉴스를 막는 효과가 있다는 분석도 나온다.

가짜뉴스를 걸러내는 훈련을 체계적으로 해야 한다는 주장도 있다. 예컨대 핀란드는 기본적인 교육 과정에서 미디어 리터러시라고 하는 교육을 받는다. 어릴 때부터 가짜뉴스를 판별하고 저항할 수 있도록 교육을 받는 것이다. 핀란드 국립사이버보안센터의 유시 토이바넨은 “미디어 리터러시는 1970년대부터 공식적인 학교 커리큘럼에 포함됐다”며 “성인이 돼서도 계속해서 미디어 리터러시를 통해 가짜뉴스에 대한 인지적 저항력을 키우고 있다”고 설명했다.

- Copyright ⓒ 조선비즈 & Chosun.com -