AI의 환각?…경찰 ‘챗 GPT’ 썼다가 ‘허위 판례’ 인용 [이런뉴스]

경찰이 '챗GPT'를 활용해 불송치 결정문을 썼다가, 존재하지 않는 법리를 잘못 인용한 사실이 뒤늦게 드러났습니다.

더불어민주당 권칠승 의원은 오늘(17일) 서울 서대문구 경찰청에서 열린 국회 행정안전위원회의 국정감사에서 유재성 경찰청장 직무대행에게 경기 용인동부경찰서가 작성한 불송치 결정문 일부를 제시하며 "경찰이 인용한 문구가 판결문에 없다"고 지적했습니다.

해당 결정문을 보면, 경찰은 지난달 18일 아동복지법 위반 사건에 대해 불송치 결정을 하면서 대법원과 서울북부지법의 판결문을 인용했습니다.

인용한 문구는 '일시적이거나 단편적인 언행만으로는 아동의 정신 건강 및 발달에 해를 끼친다고 단정하기 어렵고, 반복성∙지속성 및 구체적인 피해 정황이 인정되어야 한다'는 등의 내용입니다.

권 의원은 "다시 말해서 경찰이 존재하지도 않는 법리를 인용해서 사건을 종결한 것"이라며 "판결문에 없는 내용을 인용한 것"이라고 지적했습니다.

이에, 유 직무대행은 AI를 활용해 작성했다는 보고를 받았다며 "판결문을 잘못 인용한 것"이라고 인정했습니다.

권 의원이 "저 판례를 검색하고 내용을 추출할 때 무슨 AI를 썼느냐"고 묻자, 유 직무대행은 "챗GPT로 한 것으로 알고 있다"고 답했습니다.

경찰청은 현재 자체 법률 AI를 활용하고 있는 것으로 알려졌습니다.

권 의원은 "(경찰청 자체 법률 AI가 있는데) 왜 챗 GPT를 썼느냐. 이해가 안 되는 과정"이라며 "그나마 고소인의 법률대리인이 내용을 살펴보고 문제 제기하는 바람에 드러났다"고 말했습니다.

현재 AI 활용 가이드라인이 있느냐는 질문에 유 직무대행은 "저희가 그 후에 유의 사항을 지침으로 하달했다"고 했고, 권 의원은 "얼마나 뒷북이냐. 빨리 만들고 교육하라"고 촉구했습니다.

영상으로 보시죠.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

김세정 기자 (mabelle@kbs.co.kr)