“냉동 창고에 사람 있으면 어떻게 되나요?” “수면제 많이 먹으면 죽나요?”···‘범죄 조력자’ 된 생성형 AI

최근 발생한 강력범죄 피의자들이 범행을 사전에 계획하고 점검하는 도구로 생성형 AI를 활용하고 있다. 일러스트 | 제미나이

“수면제 많이 먹으면 어떻게 돼?” “냉동 창고에 사람이 있으면 어떻게 되지?”

어느 추리 소설 속 대사가 아닙니다. 최근 발생한 강력범죄 피의자들이 범행 전후 생성형 인공지능(AI) 검색창에 실제로 입력한 질문들입니다. 질문자가 제시한 특정 조건과 정황에 맞춰 답을 내려주고, 대화형으로 다음 행동까지 조언해주는 생성형 AI의 기능이 강력범죄의 실행 도구로 악용되고 있습니다.

최근 수사기관에 적발된 강력범죄 현장에서는 피의자들이 범행의 각 단계에서 AI를 마치 ‘상담사’처럼 활용한 정황이 포착됐습니다.

강북구 모텔에서 약물이 든 음료를 건네 남성들을 살해한 혐의를 받는 김소영은 피해자에게 약물을 투여하기 전 챗GPT에 “수면제를 많이 먹으면 어떻게 돼?”라고 물었습니다. 이에 챗GPT가 ‘술과 함께 복용 시 호흡 마비로 인한 사망 위험이 매우 높으므로 즉시 119 신고가 필요하다’고 답하자 “수면제 많이 먹는다고 그 사람이 죽어?”라고 되물으며 약물의 치사성과 인체 반응 등을 질문했습니다. 범행 구상 단계에서 AI의 대화 기능을 이용해 범행 수법을 사전에 확인하고 점검한 것입니다.

이른바 ‘파주 냉동창고 살인사건’에서도 피의자가 AI를 악용한 정황이 나옵니다. 경기 파주에서 60대 여성을 냉동창고에 가둬 사망케 한 혐의를 받는 30대 남성은 AI에 “냉동 창고에 사람이 있으면 어떻게 되지”라는 취지의 질문을 한 것으로 경찰 수사 과정에서 파악됐습니다. 경찰은 이 질문 내역을 살인을 계획한 증거로 보고 있습니다.

해외에서도 생성형 AI를 범행 준비 단계부터 끌어들인 사례가 잇따르고 있습니다. 인도 벵갈루루에서는 피의자가 수개월 동안 제미나이에 접속해 범행을 정교하게 준비한 사실이 수사 결과 파악됐습니다. 피의자는 단순히 단어를 검색하는 수준을 넘어 시신을 유기하는 방법 등을 AI에 지속적으로 물으며 범행 계획을 세웠습니다.

약물이 든 음료로 남성들을 살해해 구속된 김소영이 범행 전 챗GPT에 약물의 치사성을 물어본 정황이 담긴 서울북부지법의 판결문 일부. 서울북부지법 제공

피의자가 AI에 남긴 질문들은 역설적으로 범죄의 계획성을 입증하는 ‘스모킹 건(결정적 증거)’이 되고 있습니다.

경찰은 피의자의 휴대전화나 PC를 포렌식하는 과정에서 웹 검색 기록뿐만 아니라 생성형 AI와의 대화록을 집중적으로 확보하고 있습니다. 이는 피의자가 범행 당시 우발적으로 저지른 일이라거나 범행 의도가 없었다고 주장하더라도, 범행 이전부터 AI에 어떤 질문을 던졌는지 확인해 사전 계획성과 고의성을 입증하는 정황 증거가 됩니다.

나아가 AI 시스템 자체가 범죄를 사전에 차단하는 신고 시스템으로 작동한 사례도 있습니다. 지난 5월 미국 플로리다주에서는 피의자가 챗GPT를 이용해 전 여자친구를 살해할 구체적인 계획과 방법을 입력하자, 오픈AI는 이를 ‘위험 대화’로 감지하고 수사기관에 신고했습니다.

피의자는 “이번 달 말까지 그녀를 죽이겠다” 등의 메시지를 입력하고, 전 여자친구가 다니는 체육시설 주차장에서 꽃을 건넨 뒤 거절하면 살해하고 자신도 목숨을 끊겠다는 계획을 밝혔습니다. 제보를 받은 미 연방수사국(FBI)은 피의자를 체포했고, 피의자는 보호관찰 8년과 전자발찌 2년 착용 처분을 받았습니다.

브라질에서도 아들을 살해할 청부살인업자를 물색하던 한 남성이 오픈AI의 제보로 현지 수사기관에 붙잡힌 사례가 있습니다.

다만 실제 범행으로 이어지지 않은 질문이나 표현까지 감시·처벌 대상으로 삼을 수 있는지 등은 논란으로 남아있습니다. AI가 일상이 된 시대, 수사 활용과 개인의 사생활 보호 사이에서 적절한 기준을 세우기 위한 논의가 필요해 보입니다.

김은송 기자 ssong@kyunghyang.com