AI 합성사진이 흔든 골든타임…밈이 된 가짜 이미지의 위험성 [D:이슈]

늑구 수색 혼선 키운 SNS 허위 이미지…딥페이크·가짜 광고로 번지는 AI 콘텐츠 폐해

대전 오월드에서 탈출한 늑대 늑구가 17일 오전 생포돼 열흘 만에 돌아왔다. 무사히 구조됐다는 점은 다행이지만, 이번 수색은 초반부터 SNS에 퍼진 가짜 이미지와 허위 제보에 흔들렸다. 웃으며 소비한 사진 한 장이 실제 상황 판단과 공공 대응까지 흔들었다는 점에서, 이번 사태는 생성형 인공지능(AI) 시대 가짜 이미지의 위험성을 드러낸 사례로 남게 됐다.

생포된 늑구 ⓒ연합뉴스

문제가 된 건 도로 위 차량 옆에 늑대가 서 있는 듯한 사진이었다. 해당 이미지는 진짜 목격 사진처럼 소비됐고, 수색 당국도 한때 늑구가 오월드 인근을 벗어나 도심 방향으로 이동했을 가능성까지 염두에 두고 대응 범위를 넓혔다. 그러나 진위여부를 분석하고 TJB 등 지역 언론이 직접 현장을 취재한 결과 사진 속 횡단보도 정지선과 도로 표식, 이정표 글씨 등이 실제 현장과 전혀 맞지 않았고 이는 AI로 조작된 사진임이 드러났다.

대전소방본부는 지난 10일 이 사진을 바탕으로 기사를 쓴 언론사들에게 삭제를 요청했지만 이미 생포 중심의 초기 대응이 시민 안전 중심으로 급히 전환되며 골든타임을 놓쳤다는 지적이 나왔다.

이 같은 혼선은 늑구만의 해프닝으로 보기 어렵다. 2025년 8월 캐나다 브리티시컬럼비아 산불 당시에도 AI 생성 산불 이미지가 실제 화재 규모와 양상을 왜곡하고 혼선을 낳아 해당 주의 산불 진화 기관 ‘비씨 와일드파이어 서비스’(BC Wildfire Service)가 이미지 공유 자제를 공식 요청하기도 했다.

같은 해 10월 미국 LA 산불 때도 할리우드 사인이 불타는 것처럼 보이는 가짜 이미지와 영상이 확산했고, 재난 대응 기관들은 허위정보 대응에 별도 자원을 투입해야 했다. 재난 현장에서 SNS에 퍼진 가짜 이미지가 실제 상황 판단을 흐리고 공공 대응까지 흔드는 사례가 이미 반복되고 있는 것이다.

국내에서는 이러한 기술이 유명인을 사칭한 범죄나 부적절한 마케팅으로 번지며 사회적 혼란을 가중시키고 있다. 2024년 상반기부터 조인성, 송혜교 등 유명 배우의 얼굴과 목소리를 정교하게 합성한 딥페이크 영상을 이용해 고수익 투자를 유도하는 가짜 광고가 기승을 부리는가 하면, 이달에는 카페 블리스웨이가 인스타그램 홍보를 위해 그룹 엔시티(NCT)의 멤버 재현의 외형과 유사한 AI 모델 사진을 게시했다가 팬들로부터 초상권 침해 및 소비자 기만 항의를 받고 사과문을 올리는 소동이 빚어지기도 했다.

최병호 고려대학교 AI연구소 교수는 이런 상황이 더 이상 예외적이지 않다고 봤다. 최 교수는 “실제와 가짜를 일반인이 구별하기는 사실상 불가능에 가까운 형태로 가고 있다”며 “사진이 있으면 사실로 믿고 싶은 게 사람의 본성인데, 이제는 어떤 사진이든 진짜인지 의심하는 것이 기본 리터러시가 됐다”고 말했다. 이어 “비상 상황에서는 빠르게 조치해야 하지만 진위 판단에는 시간이 걸려 속도의 간극이 생긴다”며 “그 사이 행정력이 낭비될 수밖에 없다”고 지적했다.

ⓒ시댄스 2.0

딥페이크 영상, 합성 음성, 조작 이미지로 인해 허위·조작정보와 실제 사실의 구별이 훨씬 어려워짐에 따라 공정거래위원회도 지난 8일 생성형 AI·딥페이크 기술로 만든 가상 인물이 의사·교수 같은 전문가나 연예인처럼 제품을 추천하는 광고에 대해 가상인물임을 표시하도록 하는 지침 개정안을 행정예고하기도 했다.

그러나 이런 가짜 콘텐츠는 이제 비전공자가 아니어도 손쉽게 만들 수 있는 환경이 됐다. 바이트댄스의 영상 생성 AI ‘시댄스 2.0’ 등이 개발되면서 사진과 짧은 문장만으로 사실적인 짧은 영상을 만들 수 있기 때문이다. 동물, 재난, 사건·사고 장면 같은 자극적인 소재를 누구나 손쉽게 만들고 퍼뜨릴 수 있게됨에 따라 처음에는 재밌게 소비되기도 했지만 늑구 사례처럼 그런 이미지 한 장이 실제 수색과 안전 대응을 흔들 수 있다는 점에서 더는 가볍게 넘길 일이 아니다.

시민 입장에서는 사진, 영상, 텍스트 모두 의심하고 소비해야하는 시대가 왔다. 그러나 행정 당국은 서비스를 해야 하는 입장이다. 전수조사가 필요하기에 세금 낭비 가능성을 배제할 수 없다.

따라서 최 교수는 기술 발전 속도에 비해 대응 시스템이 뒤처져 있다고 짚었다. 그는 “결국 중요한 건 AI로 생성했는지 여부를 빠른 속도로 정확하게 판단할 수 있는 시스템”이라면서도 “지금처럼 제작 비용이 사실상 ‘0’에 수렴하는 방향으로 가면 이런 일은 앞으로 거의 모든 영역에서 반복될 수밖에 없다”고 말했다.