[기자24시] 마침내 현실이 된 AI가짜뉴스 쇼크

인공지능(AI)이 생성한 이미지 한 장이 미국 증시를 발칵 뒤집었다. 혼란은 단 10분이었지만 세계 최대의 주식시장 지수가 상승에서 하락으로 돌변하는 충격을 줬다.

미국 국방부 건물인 펜타곤이 공격받은 듯한 AI 생성 이미지는 아직 누가 왜 생성했고, 어떻게 사회관계망서비스(SNS)에 공유됐는지 파악되지 않았다. 문제는 단순한 가짜 이미지가 SNS에 게재되자마자 러시아 언론과 금융정보업체들이 사실관계 확인 없이 추종 게재하면서 진짜 사건이 된 점이다. 이 과정에서 트위터의 일부 계정은 공식, 진짜 등을 뜻하는 블루마크를 달고 있어 혼란을 더욱 키웠다.

'챗GPT의 아버지' 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 미 의회 청문회에서 "AI가 정보를 조작하고 설득하고 가짜 정보를 퍼뜨릴 수 있다"며 "내년 미국 대선을 앞두고 모델이 점점 진화할 가능성이 있다"고 경고한 바 있다. 앞서 논란을 일으킨 프란치스코 교황이 명품 패딩을 입은 이미지나 도널드 트럼프 전 대통령이 경찰에 체포되는 이미지가 미래에 벌어질 가짜뉴스에 대한 경고에 불과했다면, 이번 펜타곤 공격 이미지는 현실임을 일깨웠다.

전문가들은 AI가 만들 수 있는 가짜뉴스에 대한 방어력을 키울 것을 주문하고 있다. 컴퓨터 바이러스가 계속 만들어지고 그에 따른 백신이 개발되는 것처럼 AI 가짜뉴스 적발도 끝없는 '두더지 잡기'가 될 공산이 크다. 블룸버그는 "어도비는 사진 출처를 추적하는 디지털 워터마크 기술이 있고, 마이크로소프트도 AI 생성 이미지를 구분해 표기해주는 서비스를 도입할 예정"이라면서도 "기술로 이를 모두 잡아내는 것은 끝없는 싸움이 될 것"이라고 분석했다.

더 이상 '보는 것이 믿는 것'이 아닌 세상이 되고 있다. AI 전문가들은 이번 펜타곤 이미지에서 건물이 흐릿한 것, 사건 크기에 비해 다른 각도 이미지나 목격자가 없는 것에서 가짜라 판단했다고 한다. 그러나 모든 사람이 AI 전문가가 되긴 어렵다.

미 백악관은 사건 하루 만에 AI로 인한 새로운 위험 관리에 나서겠다고 밝혔다. 한국 정부도 발 빠른 대응이 필요하다.

[진영태 글로벌경제부 기자]