AI로 수사보고서 쓰는 경찰들…“증거 꾸며내기도 하더라”

20, 30대 경찰들 “AI 쓰면 효율 높아진다”
사건 입력하면 질문지-혐의 유무 등 작성
“가상의 증거물 등 왜곡 부분 제외하고 참고”
외부 AI에 수사기록 입력 ‘기밀 누설’ 지적도

챗GPT로 생성한 이미지.

챗GPT 등 인공지능(AI) 서비스 사용이 확대되는 가운데 일선 경찰서의 20, 30대 젊은 수사관들이 수사 업무에 AI 서비스를 자주 활용하고 있다. 이들은 “수사관 한 명이 사건 수십 개를 담당하는데 AI를 쓰면 효율성을 높일 수 있다”며 수사 관련 보고서, 피의자 조사 질문지 등의 작성에 AI를 쓴다. 하지만 일각에서는 민감한 수사 정보를 경찰 내부망이 아닌 외부 AI 업체 데이터베이스(DB)에 넣는 것 자체가 정보 유출 및 개인정보보호법 위반 소지가 있다는 우려가 나온다. AI가 잘못된 분석이나 결과를 내놓았을 경우 제대로 검증하지 않으면 수사에 혼선을 빚을 우려도 제기된다.

● 보고서-질문지 작성 등 수사에 AI 써

최근 서울의 한 경찰은 국내 판결문 분석 사이트의 AI 서비스가 만들어준 기소 결정서 내용을 다듬어 ‘수사 결과 보고서’를 작성했다. 원래 기소 결정서는 검사가, 수사 결과 보고서는 경찰이 작성한다. 두 문서는 기소나 검찰 송치 여부, 수사 결과와 판단 배경 등 유사한 내용을 담고 있다. 해당 AI 서비스가 기소 결정서는 만들 수 있는데 수사 결과 보고서는 아직 못 만드는 단계이기 때문에, 해당 경찰은 ‘기소 결정서를 써줘’라고 명령을 내렸고, AI 서비스는 혐의명, 범죄 사실, 기소(불기소) 이유, 결론 등을 목차로 한 문서를 만들어냈다. 경찰은 “이 결과를 토대로 수사 결과 보고서를 만들었다”며 “원래 들일 품의 4분의 1 정도만 든다”고 했다.

수도권의 다른 경찰은 까다로운 투자 사기 사건의 검찰 송치 여부를 결정하기 위해 AI를 활용했다. AI에 사건 정보를 입력한 뒤 “혐의가 있는 부분과 없는 부분을 각각 써줘”라고 명령하자 결과물이 나왔다. 그런데 문제가 있었다. 입력하지도 않은 가상의 증거물을 AI가 마치 있는 것처럼 왜곡해 결과를 내놓은 것이다. 해당 경찰은 “AI는 모르는 것도 안다고 꾸며내는 특성이 있다”며 “왜곡된 부분은 제외하고 참고했다”고 말했다.

서울 한 경찰서의 수사과 수사관은 피의자나 참고인에게 물어볼 질문지를 작성할 때 AI를 쓰고 있다. 사건 개요를 입력한 뒤 ‘네가 검사라고 생각하고 이 피의자를 신문하기 위한 20개의 질문을 추려줘’라고 명령하면 질문지가 나온다. 주로 관련자가 3명 이상으로 많을 때 AI를 쓴다고 한다. 해당 수사관은 “마치 베테랑 경찰이 만든 질문지 수준으로 만들어 낸다”며 “실제 사용한 적이 있는데 상사로부터 ‘언제 이렇게 질문지 작성 수준이 늘었냐’는 칭찬을 받았다”고 말했다.

● 전문가 “법 위반-정보 유출 우려”

하지만 문제점도 있다. 한국인공지능법학회장을 맡고 있는 최경진 가천대 법대 교수는 “경찰 내부망의 수사 기록 데이터를 외부 AI 서비스에 넣고 돌리는 것은 개인정보를 무단으로 외부로 반출한 것으로 볼 여지가 있다”고 지적했다.

AI가 내놓은 결과를 믿을 수 있느냐는 지적도 나온다. 위 사례처럼 AI가 증거물이나 수사 내용을 왜곡하는 사례가 종종 있기 때문이다. 오윤성 순천향대 경찰행정학과 교수는 “AI의 가장 큰 문제점은 근거 출처를 만들어 붙이는 등 거짓말을 한다는 것”이라며 “AI의 판단 결과는 ‘이런 의견도 있다’는 수준으로 참고만 해야 한다”고 밝혔다.

전문가들은 경찰이 수사에 AI를 활용한다면 간략한 사건 개요, 주장 요지 등 아주 기초적인 사실 정보만 입력해 활용해야 한다고 지적했다. 곽대경 동국대 경찰사법대 교수는 “구체적인 개별 범행 수법이나 개인정보 등은 AI에 입력하지 말아야 한다. 수사 내용 유출 우려가 있다”고 말했다. 경찰청 관계자는 “수사 정보 유출 가능성이 있기에 직원들이 개인정보 등을 AI 서비스에 입력하지 않도록 관련 공문 및 보안서약서 등을 일선 경찰관서에 하달한 바 있다”고 밝혔다.

최원영 기자 o0@donga.com
전남혁 기자 forward@donga.com