"조종사 손가락이 4개"…이란 전쟁에 AI '덧칠' 조작사진 활개

실제 사진 바탕해 AI로 원하는 방향 과장…알아채기 쉽지 않아

소셜미디어에 확산된 쿠웨이트 추락 미군 F-15 전투기 조종사가 현지인과 대치하는 이미지. AFP통신은 분석 결과 이를 인공지능(AI) 보정 이미지라고 결론내렸다. (출처=소셜미디어 엑스)

(서울=뉴스1) 이정환 기자 = 이란 전쟁이 발발하면서 인공지능(AI)으로 조작한 이미지가 온라인에서 쏟아지고 있다.

이들 이미지는 실제 이미지를 바탕으로 일부를 보정해 가짜임을 알아채기 어려운 형태로 확산하고 있어 주의가 요구된다.

AFP통신에 따르면 지난 2일 미군 F-15 전투기 3대가 쿠웨이트에서 격추되자, 소셜미디어에서는 전투기에서 낙하산으로 탈출한 뒤 쿠웨이트 현지인 앞에서 무릎을 꿇은 미군 조종사 사진이 확산했다. 이 사고는 쿠웨이트 측의 오인 사격으로 드러났다.

이미지는 일부 언론에도 보도될 정도로 널리 퍼졌지만, 사진 속 인물들의 손가락이 4개로 표현되는 등 미심쩍은 부분이 있었다. AFP통신의 분석 결과 구글 AI의 워터마크 '신스ID'가 이미지에 포함돼 있었다.

AFP통신은 AI 합성 이미지가 허구의 상황을 생성한 것이 아닌, 실제 촬영된 이미지를 일부 수정한 것으로 보인다고 평가했다.

인터넷에 확산한 똑같은 구도의 저화질 이미지는 AI 검증 도구 분석에서도 '실제'로 판명됐고, 위성 사진으로도 정확한 위치 추적이 가능했다.

지난 1일 이라크 에르빌 공항이 이란의 공격을 받은 뒤 같은 시기 소셜미디어에 유포된 똑같은 구도의 두 사진. AFP통신은 분석 결과 우측 이미지에 AI가 사용돼 불길과 연기를 과장되게 표현했다고 결론지었다. (출처=소셜미디어 엑스)

지난 1일에는 이라크 에르빌 공항 인근에서 이란의 공격을 받고 발생한 거대한 화재를 담은 이미지가 소셜미디어에서 공유됐다.

AFP통신 분석 결과 이 사진에 구글 AI가 사용된 것으로 확인됐지만, 완전히 조작된 상황은 아니었다. 원본 이미지는 불길과 연기 기둥의 규모가 훨씬 작고 색상도 덜 선명했다.

전문가들은 AI 보정 이미지가 '현실의 사건'을 기반으로 하더라도 대중의 인식을 왜곡할 위험이 높다고 경고한다. AI는 여전히 오류를 범하기 쉽고, 원본 이미지에 없던 요소를 '환각'(hallucinate)해낼 수 있기 때문이다.

에반겔로스 카눌라스 암스테르담대 교수는 "AI 보정은 질감, 얼굴, 조명, 배경의 세부 사항을 미묘하게 변경해 원본보다 더 '실제'처럼 보이는 이미지를 만들어낼 수 있다"고 말했다.

이어 카눌라스 교수는 AI 보정 이미지가 "시위를 더 폭력적으로 보이게 하거나, 군중의 규모를 더 크게 보이게 하거나, 표정을 더 강렬하게 만드는 식으로 사건에 대한 특정 내러티브를 강화할 수 있다"고 경고했다.

제임스 오브라이언 UC버클리 교수는 "작은 변화만으로도 결국 전혀 다른 이야기를 전달하게 될 수 있으며, 사건에 대한 인식을 바꿀 수 있다"며 AI 보정 콘텐츠가 이미 "사람들의 진실을 믿는 능력에 엄청난 영향을 미치고 있다"라고 전했다.

jwlee@news1.kr