관청 AI에게 문서작성 맡겼다가…허위정보에 발칵 일쑤

경찰·구청 활용, 업무효율 높여…사하구는 아예 개발 부서 신설도

- 수치 부정확·수사정보 유출 우려
- 전문가 “크로스체크 과정 거쳐야”

부산의 한 일선 경찰서 수사 부서에서 근무하는 A 경정은 요즘 보고서를 검토하는 시간이 예전보다 길어졌다. 20, 30대 젊은 수사관을 중심으로 인공지능(AI)을 활용한 수사결과보고서 작성이 늘면서 잘못된 정보를 발견하는 경우가 잦기 때문이다. 실제 판례가 아닌 학설을 인용하거나 하급심 판례를 대법원 판결로 잘못 작성한 보고서가 더러 있다. 존재하지 않는 판례 번호가 기재된 경우도 있다. A 경정은 “생전 처음 보는 판례 기호가 보여 확인했더니 엉터리였다”며 “AI의 도움을 받아 보고서를 작성하는 게 편하지만, 국기기관인 경찰의 보고서인 만큼 한 번 더 확인하는 습관이 필요하다는 점을 강조하고 있다”고 말했다.

15일 부산 사하구 업무혁신계 직원이 인공지능(AI) 서비스를 이용해 업무를 보고 있다. 사하구 제공

최근 민간은 물론 공공기관에서도 AI 서비스 활용으로 업무 효율성을 높이는 추세가 뚜렷하다. 생성형 AI를 이용, 일본 애니메이션 제작사 ‘스튜디오 지브리’ 화풍의 이미지를 변환하는 것이 한때 세계적으로 유행하자 일부 지자체는 이를 통해 구정을 홍보하기도 했다. 부산 사하구는 아예 조직개편을 통해 지역 사정에 적합한 AI를 개발하는 부서를 신설하기도 했다. 지난해 1월 업무혁신 TF팀을 발족한 뒤 지난달부터는 정식 직제인 ‘업무혁신계’를 신설했다. 기초단체가 AI를 직접 개발하는 전국 첫 사례다.

하지만 잘못된 정보 생산으로 인한 문제도 적지 않다. 특히 국민 생활과 밀접한 공공기관에서 별다른 의심 없이 AI 자료를 활용하면 사회 혼란을 일으킬 수 있다. 실제 부산의 한 지자체에서 관광 활성화 방안을 연구하기 위해 AI 서비스로 다른 지역의 우수사례를 조사하다가 수치 등 잘못된 정보를 수집해 시정 조치를 받기도 했다.

이수영 사하구 업무혁신계장은 “우리 구에서도 AI 서비스 오남용 사례가 종종 발생하고 있다”며 “정기적으로 직원 대상으로 강의를 통해 AI를 과신하지 말고, 공신력 있는 매체를 통해 재확인해야 한다고 강조한다”고 말했다.

경찰은 2022년부터 성폭력 사건 조서 작성 때 피해자의 진술을 실시간으로 글자로 변환해 주는 ‘AI 음성인식 시스템’을 여성청소년과를 중심으로 도입했다. 시행 초기 각종 오차가 발생, 보완을 거쳐 올해부터는 모든 부서에서 이용하도록 했다. 그러나 진술이 구어체로 생성되다 보니 실제 조서 작성에 크게 도움이 되지 않아 호불호가 갈린다.

전문가들은 AI 서비스를 이용할 때 반드시 ‘크로스 체크’를 거치고, 참고용으로 사용할 것을 강조한다. 특히 경찰은 범행 수법이나 개인정보 등 수사 정보 유출 가능성이 있는 만큼 사용을 각별히 주의해야 한다고 조언한다. 동아대 라광현(경찰학과) 교수는 “실제 미국의 한 변호사가 생성형 AI를 통해 잘못된 법률 자료를 찾아 문서를 작성한 탓에 해고 위기에 몰렸다”며 “경찰이 AI 서비스에 수사 정보를 입력하면 유출될 가능성이 매우 커 주의해야 한다”고 말했다.