AI가 쓴 불송치 결정문?…챗GPT로 법리 검토한 경찰, 허위 인용 드러나

국회 행정안전위원회 국정감사 현장에서 공개된 경기 용인동부경찰서의 불송치 결정문 일부. 경찰이 챗GPT를 활용해 존재하지 않는 판례 문구를 인용한 내용이 포함돼 있다. /국회방송

경찰이 대화형 인공지능 챗GPT를 활용해 불송치 결정문을 작성하는 과정에서 실제 존재하지 않는 법리를 인용한 사실이 뒤늦게 드러났다. 고소인 측이 결정문 문구를 판결문과 대조해 오류를 지적하면서 문제가 불거졌다.

17일 서울 서대문구 경찰청에서 열린 국회 행정안전위원회 국정감사에서 더불어민주당 권칠승 의원은 경기 용인동부경찰서가 작성한 아동복지법 위반 사건 불송치 결정문 일부를 공개했다.

결정문에는 “일시적이거나 단편적인 언행만으로는 아동의 정신 건강 및 발달에 해를 끼친다고 단정하기 어렵고, 반복성·지속성 및 구체적인 피해 정황이 인정되어야 한다”는 문구가 대법원과 서울북부지법 판결문 인용으로 표기돼 있었다. 그러나 권 의원이 해당 판결문을 확인한 결과, 문제의 문장은 대법원 판결문 어디에도 존재하지 않는 것으로 밝혀졌다.

유재성 경찰청장 직무대행은 “AI를 활용해 작성했다는 보고를 받았고, 판결문 인용이 잘못된 것은 맞다”며 오류를 인정했다. 그는 “AI 활용 관련 지침을 배포했다”고 했다. 권 의원은 “경찰이 존재하지 않는 법리를 인용해 사건을 종결했다”며 “고소인 측 법률 대리인이 검토 과정에서 문제를 제기하면서 뒤늦게 드러났다”고 지적했다.