'챗GPT 판례' 곤욕치른 경찰, 제휴 AI도 이용 중단…"비용 부담"

무료로 쓰던 AI 법률정보 플랫폼 유료화에 구독 안 하기로

(서울=연합뉴스) 박수현 기자 = 경찰 보고서에 챗 GPT가 만든 허위 판례가 인용돼 논란이 일었던 가운데, 경찰청이 비용을 이유로 국내 제휴 업체의 인공지능(AI) 서비스 이용을 중단했다.

21일 연합뉴스 취재를 종합하면 경찰청은 내부 게시판에 이날부터 경찰관들의 AI 법률 정보 플랫폼 '엘박스 AI'의 무료 이용이 중단된다고 공지했다.

경찰청은 지난해부터 무료 이용 서비스를 제공했으나, 이 서비스가 유료로 전환되면서 연 10억원 이상의 비용 부담이 발생해 이용이 어려워졌다고 설명했다.

엘박스 AI는 법률 문서를 AI로 작성할 수 있는 '문서 작성' 등 서비스를 제공하는데, 일부 수사관들은 이를 보고서 작성 등 업무에 활용했던 것으로 알려졌다.

경찰 관계자는 "AI 서비스를 업무에 많이들 활용한다"라며 "검증 없이 사용하면 잘못된 내용으로 보고서를 작성할 수 있지 않을까 우려한 적이 있다"고 말했다.

앞서 경찰청 국정감사에서는 AI 기술을 사용할 때 발생할 수 있는 환각(AI가 실제로 존재하지 않는 허구의 정보나 콘텐츠를 생성하는 현상) 문제가 지적됐다.

더불어민주당 권칠승 의원은 경기 용인동부경찰서가 작성한 불송치 결정문을 제시하며 "경찰이 인용한 문구가 판결문에 없다. 존재하지도 않는 법리를 인용해 사건을 종결했다"고 지적했다.

이에 유재성 경찰청장 직무대행은 해당 보고서에 대해 오픈AI의 챗 GPT를 활용해 작성한 것으로 보고 받았다며 "그 후에 (AI 서비스 이용에 대한) 유의 사항을 지침으로 하달했다"라고 설명했다.

경찰은 AI로 업무를 효율화하면서도 부작용을 최소화할 방안을 고민하고 있다.

경찰청은 판례, 법령 검색서비스 계약을 갱신하며 제한된 범위 내에서 생성형 AI 검색서비스를 이용할 수 있도록 별도 계약을 추진 중인 것으로 전해졌다.

전문가들은 경찰 업무에 AI 활용이 늘어나는 만큼, 환각에 따른 문제가 발생하지 않도록 해야 한다고 말했다.

이윤호 동국대 경찰행정학과 명예교수는 "사전 정보나 자료가 필요할 때, 방향을 잡아야 할 때 AI를 참고할 수 있겠지만, 결과를 판단하는 데 사용하는 것은 지양해야 한다"고 했다.

suri@yna.co.kr

▶제보는 카톡 okjebo

사회