"눈으로 봐도 못 믿는다"… AI 허위 영상, 범죄의 새 얼굴
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
[우먼센스] 인공지능(AI) 기술이 빠르게 발전하면서 정보 생산의 문턱은 낮아졌지만, 그만큼 거짓을 진짜처럼 꾸며내는 일도 쉬워졌다. 문제는 이 가짜들이 단순한 오락이나 실험을 넘어 범죄와 사회적 혼란으로 이어지고 있다는 점이다. 기술의 진보가 신뢰의 위기로 번지고 있는 지금, 우리는 AI가 만들어낸 새로운 위험과 어떻게 공존해야 할지 시험대에 올라 있다.
경기도 부천역 근처 거리. 경찰이 인터넷 방송을 하던 BJ에게 다가와서 "방송을 종료해달라" 요청한다. 그러자 BJ가 "뭐요, 여기 그냥 길인데요? 왜 시비냐"라며 욕설을 퍼붓고 몸싸움을 벌인다. 경찰은 "당신을 모욕죄 및 공공도로 점유로 체포한다"며 수갑을 채운다.
또 다른 거리에선 교복을 입고 담배를 피우던 여학생에게 경찰이 다가가 "학생이 담배를 피우면 안 되지, 얼른 꺼"라고 하지만, 여학생은 "무슨 상관인데요?", "몰카 찍는 변태냐"라고 조롱한다.
"방송 종료하라" 경찰 vs BJ, 그런데 이게 AI였다
경찰이 현장에서 보디캠으로 촬영한 것처럼 보이는 이 영상, 사실 AI로 만든 가짜였다. 영상을 만든 유튜버는 지난해 10월부터 이러한 영상을 54건 만들어 유튜브 채널, 인스타그램, 틱톡, 페이스북 등에 게시했다. 영상에는 여장남자가 여성 탈의실에 들어가 경찰이 출동한 장면, 경찰이 흉기를 든 중국인을 쫓다가 테이저건으로 제압하는 장면, 도널드 트럼프 미국 대통령 반대 집회 참가자가 경찰에게 "부패 경찰 물러나라"며 항의하는 장면 등도 있다.
영상 제작은 챗GPT 등을 활용해 프롬프트 명령어를 만들고, 영상 생성용 AI '소라(Sora)'를 이용해 이뤄졌다. 경찰 등 등장 인물의 음성과 주변 소음까지 AI로 만들었다. 시나리오는 일부 뉴스 기사 등을 참고해 초안을 만들고 거듭 수정을 거치는 꼼꼼함을 보였다. 초기 게시물은 AI로 만든 영상임을 알 수 있을 정도로 다소 어설펐지만, 시간이 갈수록 영상의 완성도와 정교함은 극에 달했다. '순찰 24시'라는 제목의 이 영상들은 숏폼(짧은 영상) 형태로 확산하며 총 3,000만 회가 넘는 조회수를 기록했다.
영상을 실제로 믿은 시민들은 댓글을 달거나, 경찰에 항의를 하기도 했다. 논란이 불거지자 경찰은 수사에 나서 영상을 제작한 30대 A씨를 전기통신기본법, 자본시장법, 정보통신망법 위반 등으로 구속 송치했다. 경찰 관계자는 "A씨가 지속적인 영리 활동을 목적으로 영상을 제작한 정황이 확인되어 종합적으로 검토해 전기통신기본법을 의율했다"라고 밝혔다.
국내 첫 AI 허위 영상 구속… 하지만 처벌 근거는 '애매'
법조계에 따르면 AI 영상을 제작해 유포한 것만으로는 처벌이 어렵다. 하지만 AI 영상을 제작해 타인에게 피해를 입혔고 수익까지 얻었다면 법 위반 소지가 있다. A씨는 유튜브 채널 소개 글에 '실제 경찰과 무관하며 실화 바탕 각색 AI'라고 소개를 한 점과 영리 목적이 아니었다는 점을 부각하며 혐의를 부인했지만 경찰은 고의성이 있다고 봤다. A씨가 개별 영상엔 AI로 만든 가짜 영상이라는 고지를 안 했고, AI 제작 영상을 표시하는 워터마크를 지우기도 한 정황을 포착했기 때문이다.
AI로 허위 영상물 만들고 유포해 구속까지 된 건 이번이 처음이다. AI 허위 영상물 수사에 일부 탄력이 붙을 것으로 관측되지만, 이미 AI를 활용한 범죄는 첨단을 달리고 있다는 우려도 상당하다. 한 법조계 관계자는 "AI 이미지나 영상이 더 정교화되면 고령층 등을 상대로 한 범죄는 더 늘어날 가능성이 높다"라고 밝혔다.
'순찰 24시' 유튜브 채널 운영자는 덜미가 잡혔지만 공권력을 사칭하는 AI 영상은 각종 플랫폼에서 여전히 쉽게 찾아볼 수 있다. 한 영상에는 경찰이 집회 현장에서 태극기를 든 청년에게 "오늘은 중국 대표단이 오는 날이니 중국 국기인 오성홍기를 들어야 한다"며 꾸짖는 내용이 담기기도 했다. 이를 실제 영상으로 착각한 시청자들은 "나라가 공산화되고 있다" 등의 댓글을 달았다.
'이정재'가 "여보, 꿀" 부르며 5억 뜯어냈다
유명인 얼굴을 도용해 사기를 치는 수법도 지능화되고 있다. 최근엔 배우 이정재를 사칭한 로맨스 스캠 일당이 50대 여성에게 약 5억 원을 뜯어가는 사건이 발생했다. 사칭범은 "팬들과 소통하기 위해 연락했다", "<오징어 게임3>를 촬영하고 있다"는 등의 얘기를 SNS를 통해 나누며 피해자와 친분을 쌓았고 '여보', '꿀'이라고 부르며 자연스레 연인 관계로 발전한 것처럼 속였다.
이 과정에서 AI는 실제 이정재인 척 '공항 셀카'를 찍거나, 가짜 신분증을 만들어 보내는 데 활용됐다. 사칭범은 이후 '경영진'이라는 사람을 피해자에게 소개해줬고, 경영진은 이정재 씨를 직접 만나게 해 준다며 돈을 요구했다. 심지어 이정재 씨가 미국 공항에 억류됐다는 이유 등을 대며 수천만 원을 달라고 하기도 했다.
이재명 대통령이 특정 플랫폼에 투자하라고 권유하는 내용의 가짜 AI 영상도 등장했다. 경찰은 투자 사기 사이트 운영진들이 해당 영상을 만들고 유포하고 있다고 의심하고 내사에 착수했다. 이러한 AI를 활용한 허위 광고는 급속도로 늘어나고 있는데, 단순히 사기죄 적용을 넘어 '상업적 AI 합성물 처벌 규정'을 신설할 필요가 있다는 목소리도 나온다. 서초동의 한 변호사는 "유명인 얼굴을 도용한 AI 사기가 급증할 위험이 있는데, 현행법은 성적인 목적의 딥페이크 규율에 집중돼 있어 상업적 기망행위를 제재하기 위한 규정이 필요한 상황"이라고 밝혔다.
"엄마, 나 맞았어"… 아이 울음소리마저 AI로 조작
보이스피싱과 AI 기술의 '콜라보'도 일어나고 있다. 금융감독원은 최근 "자녀 납치를 빙자한 보이스피싱 사기가 성행하고 있다"며 소비자경보를 발령했다. 금감원에 따르면 개인정보를 획득한 보이스피싱범들은 학원가 학부모를 타깃으로 삼아 전화를 걸어 자녀의 이름과 학원명 등 개인정보를 제시한다. "여기 ○○동 △△학원 앞인데 이 엄마죠?"라고 묻는 식이다. 학부모가 반응이 오면 보이스피싱범들은 구체적인 상황 설명 없이 '엄마. 술 취한 사람이 때렸어' 등 아이의 목소리와 울음소리를 짤막하게 들려준다. 이 순간 부모의 불안감은 극대화된다.
그러나 보이스피싱범이 들려준 목소리와 울음소리는 AI로 조작된 것이었다. 금감원은 "울음소리는 발음이 불분명하고 사람마다 차이가 크지 않아 순간 당황하면 부모도 자녀의 목소리인지 구분하기 어렵다"고 설명했다. 보이스피싱범은 자녀가 자신에게 욕을 해 화가 나서 자동차에 감금하고 때렸다는 식으로 속인 뒤 부모에게 술값 등 명목으로 금전을 요구하는 수법을 쓴다고 한다. 이밖에도 아이가 발버둥 쳐 휴대전화 액정이 파손됐다며 수리비를 요구한 사례도 있다. 과거에는 보이스피싱을 통해 거액을 요구했다면, 최근에는 AI를 통한 사기로 소액을 요구하며 단시간에 범행을 끝내려는 수법이 많아지는 추세다.
중고거래나 보험 사기도 AI를 만나 진화해가고 있다. 과거에는 상품 사진을 도용하거나 허위 게시글을 올리며 사기 범행을 했지만, 최근에는 구매자가 물건을 발송했다며 택배 송장 사진을 보내 안심시킨 뒤 잠적하는 사례가 빈번하게 발생하고 있다고 한다. 이때 '송장 사진'이 AI로 합성한 가짜 이미지인 것이다. 지난해 부산에서는 20대 남성이 챗GPT를 이용해 허위 진단서를 작성해 보험사로부터 1억 5,000만 원을 편취한 사실이 적발되기도 했다.
범죄 도구인 동시에 수사 무기… AI의 두 얼굴
물론 AI 기술이 사기에만 활용되는 건 아니다. 경찰은 AI 수사 기술을 개발해 현장 도입을 추진하고 있다. AI가 수사관에게 수사 쟁점을 제공하고, 영장 신청서 등 각종 수사서식 초안을 만들어 주는 프로그램, AI가 아동학대 의심 장면을 분석하는 프로그램, 용의자 얼굴이나 도주 차량 번호판을 확인하기 위한 AI 화질개선 프로그램 도입이 대표적이다. AI가 범죄의 도구가 되기도 하지만, 수사를 돕고 범죄를 예방하는 방패가 되기도 하는 셈이다.
결국 관건은 기술 그 자체가 아니라 그것을 다루는 사회의 규범과 책임이라는 분석이 나온다. 정교해지는 AI 시대, 우리는 지금 '얼마나 더 진짜 같은가'가 아니라 '무엇을 믿어야 하는가'를 묻는 새로운 국면에 서 있다. 기술의 진보 속도를 따라잡지 못한 제도와 인식이 공백으로 남는다면, 그 틈을 파고드는 것은 범죄일 수밖에 없다. AI의 시대를 두려움이 아닌 통제와 신뢰의 체계 속으로 끌어들이는 일, 그것이 지금 우리 사회가 풀어야 할 숙제다.
권준혁 법조전문기자
김태현 기자 toyo@ilyo.co.kr
Copyright © 우먼센스. 무단전재 및 재배포 금지.