[현장칼럼] 세계는 지금 가짜뉴스와 전쟁 중

김광태 디지털뉴스부장

올해 초였다. 에마뉘엘 마크롱 프랑스 대통령이 연금개혁을 밀어붙일 때였다. 시민들은 거칠게 반발했다. 시위는 들불처럼 전국으로 확산됐다. 놀란 마크롱 대통령은 시위대에 쫓겨 허겁지겁 달아나기에 바빴다. 그 표정은 너무도 생생했다. 그러나 사실일까? 가짜다. 인공지능(AI)을 이용해 교묘하게 만들어낸 가짜사진이었다.

난민 이슈로 골머리를 앓고 있는 독일도 가짜 뉴스 이슈에서 빠질 순 없다. 독일 반이민 극우 정당 '독일을 위한 대안(AfD)'을 이끌고 있는 연방하원 원내부대표가 인스타그램에 올린 사진 하나. "더 많은 난민은 안 된다"라는 구호와 함께 성난 사자처럼 입을 벌리며 달려드는 남성들의 모습이 살벌하다. 이 사진은 사회관계망서비스(SNS)를 통해 급속히 확산됐다. '난민 반대'라는 정치적 구호를 극대화하기 위해 AI로 조작한 사진이었다.

'가짜뉴스'란 표면적으로 잔혹한 기사 제목이나 의도적으로 조작된 사진과 영상을 혐오 목적으로 마치 기사처럼 거짓으로 꾸민 거짓말이나 선동으로 정의된다. 이에 따라 여론은 왜곡되고 사회엔 공포심을 조성한다. 가짜뉴스는 보고 싶은 것만 보고, 믿고 싶은 것만 믿는 우리의 습성을 파고든다.

대다수 가짜뉴스는 누군가를 기만하기 위해 만들어진다는 점에서 문제의 심각성이 있다. AI를 기반으로 한 딥페이크 기술이 콘텐츠 조작에 동원돼 이미지는 변경되고 합성된다. 여기엔 조회수를 높여 배를 채우려는 크리에이터의 돈벌이 욕심이 한몫한다.

가짜뉴스는 올 한 해 시작과 끝을 장식했다. AI가 급속도로 진화하고 있는 지금, 가짜뉴스는 빛의 속도로 진화하고 있다. 벌써 50일이 지난 이스라엘과 팔레스타인 무장정파 하마스간 전쟁에서도 가짜뉴스는 어김없이 독버섯처럼 파고들었다. 이번 전쟁 관련 SNS 계정 5개 중 1개는 가짜라는 분석도 나온다. AI가 고도화됨에 따라 가짜 콘텐츠는 쉽고 값싸게 생산되고 있다. 기술적 대응은 쉽지 않다. 각국은 문제의 심각성을 인식하고 AI규제를 포함한 가짜뉴스 대응에 전선을 형성하기 시작했다.

먼저 EU가 가장 적극적이다. EU는 지난 6월 챗GPT 같은 생성형 AI를 만드는 기업에게 머신러닝에 사용한 자료의 출처와 저작권을 밝히도록 했다. 또한 서비스 출시 전 EU의 승인을 먼저 받도록 하겠다는 계획을 발표했다. 유엔도 최근 'AI 시대 인권규범'을 채택했다. 프랑스는 가짜뉴스에 대응하기 위해 '정보조작방지법(가짜뉴스 방지법)'을 마련했다. 야당 대표가 직원에게 폭언하는 가짜 음성파일이 SNS에 확산돼 곤욕을 치른 영국은 세계 최초로 AI안전 기관을 세웠다.

주요 테크 기업들도 가담했다. 페이스북 모회사인 메타, 구글의 알파벳, 틱톡의 바이트댄스 등 주요 플랫폼은 물론 광고업체 34개 사가 EU가 마련한 자율규제 실행강령에 참여했다. 이들은 인력과 연구비를 대거 투입해 딥페이크를 가려내는 기술을 고도화하고 있다.

내년은 세계적인 선거의 해다. 우리나라를 비롯 미국 영국 멕시코 인도 등 16개국은 대선 또는 총선을 치른다. 가짜뉴스가 폭발적으로 증식하기에 좋은 환경이다. 여론조사기관 입소스는 전 세계 시민 85%가 온라인 가짜뉴스가 정치에 미칠 영향을 우려한다는 설문조사 결과를 내놓기도 했다. 가짜뉴스의 횡포에 시달릴 걸 생각하니 다가오는 내년이 썩 반갑지만은 않다.

세계 주요국들은 지난 1∼2일 영국에서 제1차 AI 안전성 정상회의를 갖고 국제 규제를 위한 협력 방안을 논의했다. 한국은 내년 5월 후속 정상회의를 연다. AI 개발의 불가피성과 함께 윤리와 규제를 병행하는 방안을 마련해야 하는 과제를 안고 있다. 인간보다 똑똑한 AI시스템인 AGI가 나온다는데, 과연 인류는 AI가 만드는 가짜뉴스와의 전쟁에서 승리할 수 있을까.

김광태 디지털뉴스부장 ktkim@dt.co.kr