진짜 폭격 영상 아니었어? 딥페이크 믿는 사람들 : 인지 위기의 시대 [경제용어사전]

더스쿠프 Econopedia
SNS서 확산 중인 가짜 영상
AI로 만드는 딥페이크 영상
각종 범죄 도구로 쓰이지만
진위 여부 파악하기 어려워
인지 위기 이대로 괜찮나

AI인가 현실인가. 이 둘을 구분하는 게 현실이 됐다. 사람들이 AI가 만든 영상과 실제 영상을 판별하지 못하는 '인지 위기' 현상에 빠지자 관련 범죄도 갈수록 늘어나고 있다. 대책이 있을까.

인공지능(AI)으로 만든 합성 콘텐츠가 범람하면서 사회적 혼란이 가중하고 있다.[사진 | 뉴시스]

■ 인지 위기(Crisis of knowing) = 눈으로 보고 귀로 들어도 '진짜인지 가짜인지' 확신하기 어려워진 상태를 의미한다. 이미지와 동영상을 자유자재로 만드는 '생성형 인공지능(AI)'이 상용화하면서 최근 '인지 위기'가 사회적 문제로 떠올랐다.

요즘 소셜미디어(SNS)와 인터넷 커뮤니티를 중심으로 확산 중인 '가짜 전쟁 영상'은 인지 위기의 대표적 사례로 꼽힌다. 이 영상들은 지난 2월 28일(현지시간) 발발한 미국-이란 전쟁 상황을 실제 촬영한 것처럼 묘사한다. 영상 속에는 폭격당하는 이란 현지 건물, 파손된 미국 항공모함 등 '조작된 현장'이 담겨 있지만, 실제와 흡사해 일반인의 눈으로는 진위를 가려내기 쉽지 않다.

이런 가짜 영상을 만드는 덴 생성형 AI를 활용하는 '딥페이크(deepfake)'가 쓰인다. 이는 특정 인물을 다른 영상에 합성하거나 변형해 가짜 이미지와 영상을 만들 수 있는 기술로, 온라인에선 각종 사기 범죄의 도구로도 활용되고 있다. 경찰청 국가수사본부에 따르면 2024년 11월부터 지난해 10월까지 실시한 집중단속을 통해 사이버성폭력 4413건을 적발했는데, 그중 딥페이크를 활용한 '허위영상물 범죄'가 35.2%(1553건)로 가장 많았다.

인지 위기는 사회적 혼란을 넘어 실질적인 경제 피해도 야기하고 있다. 글로벌 컨설팅업체 딜로이트가 2024년 5월 발간한 '2024 금융서비스 산업 예측보고서'에 따르면, 미국에서 생성형 AI로 인한 사기 손실 규모가 2023년 123억 달러(약 18조1953억원)에서 2027년 400억 달러(약 59조1720억원)까지 늘어날 전망이다. 피해 규모가 4년간 3.2배로 커지는 셈이다.

특히 금융과 핀테크에서 생성형 AI를 활용한 사기 사건이 급증하고 있다는 게 딜로이트의 설명이다. 해당 분야가 거대 자금이 오고 가는 산업인 만큼, '인지 위기'가 천문학적인 금전적 손실을 낳을 가능성을 배제할 수 없다. 딜로이트는 보고서에서 "생성형 AI를 활용한 딥페이크는 컴퓨터 기반의 탐지 시스템을 속이는 능력을 지속적으로 확인하고 진화시키는 '자가 학습' 시스템을 갖추고 있다"면서 "사기범보다 한발 앞서려는 금융권의 노력에 큰 시련을 안겨줄 것"이라고 지적했다.

사진은 인터넷 커뮤니티에서 돌아다니는 딥페이크 이미지.[사진 | 더스쿠프 포토]

갈수록 교묘해지는 딥페이크를 현존하는 보안 시스템이 따라잡지 못하고 있다는 점도 인지 위기의 심각성을 키우고 있다. 2024년 2월 미국 정보기술 연구ㆍ자문회사 가트너는 2026년 딥페이크 공격으로 글로벌 기업의 30%가 생체 인식 솔루션을 더 이상 신뢰하지 못하게 될 것이란 전망을 내놨다.

아키프 칸 가트너 애널리스트는 보고서에서 "현존하는 얼굴과 생체 인식을 이용한 신원 확인, 인증 프로세스는 최신 AI로 만든 딥페이크 공격을 구분해내지 못한다"면서 "기업들은 최신 딥페이크 위협을 완화할 수 있는 업체와 협력해 최소한의 제어 기준을 정의해야 할 것"이라고 꼬집었다.

이혁기 더스쿠프 기자
lhk@thescoop.co.kr