마두로 연행 사진 실시간 확산… 알고보니 AI ‘가짜 이미지’

여러 복장 모습 퍼지며 의구심 증폭
상당수가 AI 생성 이미지로 드러나
NYT “트럼프 올린 것도 진위 모호”
실제 사건 합성 이미지 범람은 처음
빅테크 규제 우회 가능해 해법 묘연
사실상 안전장치 없어 영향력 논란

지난 3일(현지시간) 미국의 전격적인 군사작전으로 베네수엘라 국가 수장이 체포·압송되는 충격적인 사건이 발생한 뒤 온라인상에 미군에 끌려가는 니콜라스 마두로 대통령의 사진이 실시간으로 퍼져나갔다. 이는 매우 이례적인 일이었다. 극비리에 진행된 군사작전은 일반적으로 일정 시간이 지난 뒤에야 엄선된 사진이 공개되기 때문이다. 이들 사진 중 상당수가 인공지능(AI)으로 생성된 것으로 드러나면서 AI가 정치적 논란이 큰 사건의 해석에 영향을 미칠 수 있다는 논란이 제기되고 있다.

5일 미국 뉴욕타임스(NYT)는 마두로 체포작전 이후 온라인상에 유포된 사진들을 자체 분석해 “현재 온라인에 퍼진 사진 대부분은 신뢰할 수 없다”고 평가했다. 대표적으로 무장한 미군 2명이 비행기에서 내린 마두로 대통령의 양팔을 잡고 이동하는 사진이 지목됐다. 어두운 공항에서 긴급하게 촬영된 것처럼 화질이 좋지 않고, 구석에 2026년 1월3일이라는 날짜까지 적혀있었다. NYT는 “사진이 매우 저화질인 데다 기울어져 있으며 운동복 차림으로 체포된 것으로 알려진 것과 달리 양복 차림이라는 점에서 신뢰가 떨어진다”고 분석했다.

사진마저… ‘불신의 시대’ 도래 니콜라스 마두로 베네수엘라 대통령이 미군에 의해 체포·압송되는 상황을 인공지능(AI)이 만들어낸 가짜 사진들. 도널드 트럼프 미국 대통령이 지난 3일(현지시간) 마두로 대통령을 생포했다고 밝히고 트루스소셜에 사진을 공개하기 전까지 AI 조작 사진이 사회관계망서비스(SNS)에 우후죽순 퍼졌다. SNS 캡처

온라인상에는 구금시설에서 촬영한 것으로 보이는 두 손이 결박된 파란색 상의 차림의 마두로 대통령의 사진 등도 확산했다. 역시 체포 당시와 달라진 복장 등으로 보아 신뢰하기 어렵다. NYT는 “심지어 미 정부가 직접 공개한 ‘이오지마호에 탑승한 마두로 대통령’ 사진조차도 트럼프 대통령이 AI 생성 사진을 즐겨 게시한 전례를 고려하면 진위를 확신할 수 없는 상황”이라고 평가했다.

이번 마두로 대통령 체포는 국제적으로 중대한 사건의 실시간 공유에 AI로 생성된 사진이 대거 활용된 첫 번째 사례로 기록될 것으로 보인다. 이들 사진은 관련 정보가 아직 완전히 공개되지 않은 사건 초기 사회관계망서비스(SNS) 등을 통해 급속히 퍼져나갔다.

온라인 정보 신뢰도를 추적하는 기업 뉴스가드에 따르면 마두로 대통령 체포와 관련된 조작 및 맥락이 왜곡된 이미지 5점과 허위 영상 2점을 추적한 결과 해당 콘텐츠는 이틀도 안 돼 엑스(X)에서 총 1410만회 이상의 조회수를 기록했다. 싱크탱크인 미국 디지털민주주의연구소의 로베르타 브라가 소장은 “실제 사건을 묘사한 AI 생성 이미지를 이렇게 많이 발견할 수 있었던 것은 이번이 처음”이라고 밝혔다.

도널드 트럼프 미국 대통령이 3일(현지시간) 미군이 기습적인 군사 작전으로 체포한 니콜라스 마두로 베네수엘라 대통령의 근황 사진을 사회관계망서비스(SNS) 트루스소셜에 공개했다. 사진=트럼프 트루스소셜 계정

아직 정보가 완전하지 않은 사건 초기 퍼지는 이런 가짜 이미지가 만드는 해악에 대한 우려가 나온다. 유럽방송연맹(EBU)은 이번 마두로 대통령 체포와 관련한 AI 생성 이미지 대거 확산과 관련해 “중대한 속보 사건 발생 시 고도로 정교한 AI 생성 콘텐츠의 확산이 계속 증가하고 있다”면서 “이는 언론과 대중의 사건에 대한 이해를 저해할 가능성이 있다”고 지적했다.

이를 막기 위한 안전장치도 사실상 부재한 상황이다. 구글은 사용자가 ‘정부나 민주적 절차와 관련된’ 허위 정보를 생성하는 것을 금지하는 규정을 두고 있지만, 구글 측은 유명인 이미지를 전면적으로 차단하지는 않으며 NYT가 테스트한 가짜로 의심되는 이미지도 해당 규정을 위반하지 않았다고 설명했다. 오픈AI의 경우에도 이 기업의 AI 모델을 활용하는 다른 웹사이트를 우회하는 방식으로 이미지를 생성할 수 있었으며, 일론 머스크 테슬라 최고경영자(CEO)가 운영하는 AI 기업 X.ai의 그록도 마두로 대통령의 체포 장면을 즉시 생성해 냈다.

서필웅 기자 seoseo@segye.com