제미나이가 맞다는데 당신이 왜 그래…AI로 기세등등 민원인에 공무원들 곤욕 [세상&]

AI의 답변은 ‘정답’ 맹신하는 민원인들
경찰, 세무서 등 전방위 ‘AI 민원’ 기승
현장선 “민원인보다 AI를 설득시켜야”

AI를 활용해 민원을 제기하는 민원인의 모습을 AI 활용해 묘사한 이미지.

[헤럴드경제=정주원 기자·이우중 수습기자] “제미나이가 주차장법 위반이라잖아. 당신이 뭔데 이래라저래라야.”

지난 13일 오후 1시30분께 서울 중구 남대문경찰서. 민원인 A씨는 생성형 인공지능(AI) ‘제미나이’의 답변을 읽으며 구청 공무원에게 따졌다. 담당자가 민법과 주차장법을 확인해 “위반 사항이 아니다”라고 설명했지만 A씨는 AI의 답변과 다르다며 욕설을 이어갔다. 소란은 30분 넘게 이어졌다.

생성형 AI가 시민들의 일상 곳곳에 침투한 가운데, 경찰서에 접수할 고소장을 찾거나 민원 내용을 정리하는 식으로도 활용되고 있다. 전에는 전문가의 조력이 필요했던 업무도 AI의 도움을 받아 누구나 각종 행정 처리를 시도할 수 있다는 점은 긍정적. 하지만 AI가 정리해 준 내용을 ‘절대적 정답’로 믿으면서 비롯되는 불필요한 갈등도 목격된다.

서울의 한 현직 경찰 수사관은 “접수하는 고소장 10건 가운데 3건 정도는 AI에 내용을 입력한 뒤 ‘고소장처럼 써달라’고 해 작성한 것으로 보인다”며 “사람이 쓰는 문체와 다르고 문장이 지나치게 매끄러워 수사관이 보면 AI를 활용했다는 점이 드러난다”고 설명했다.

생성형 AI가 법률적 근거를 들이대며 제시한 답변은 최신 법령을 반영하지 못하거나 사실관계에 맞지 않는 내용을 언급할 가능성을 살펴야 한다고 전문가들은 말한다. 지난해 4월 정보통신기획평가원이 주요 AI 모델의 환각 탐지 정확도를 조사했는데, 일반 상식 분야에서는 정확도가 85%였으나 법률 분야에서는 64%에 그쳤다. 법령이 자주 바뀌고 구체적인 사실관계에 따라 적용 조문이 달라지기에 오류 가능성이 더 크다.

“5분이면 끝날 일, AI 설명하느라 20분”

29일 오전 서울의 한 경찰서 민원실에서 민원인이 민원 상담 창구를 이용하고 있다. 이우중 수습기자

공공기관 민원 담당자들은 생성형 AI 확산 이후 민원인을 설득하는 데 그치지 않고 AI 답변이 왜 잘못됐는지까지 조목조목 설명해야 하는 처지라고 하소연한다.

강원도의 한 지방자치단체에서 세무공무원으로 근무하는 김모(28) 씨는 지난달 협의이혼 과정에서 건물을 증여받은 민원인을 상대했다. 민원인은 챗GPT에 취득세 신고가 필요한지를 물었고 ‘기부 성격이라 신고하지 않아도 된다’는 취지의 답을 받았다. 이후 법무사가 다른 설명을 하자 군청을 찾아와 항의했다.

김씨는 관련 법령을 직접 찾아 챗GPT에 다시 입력하고 질문 방식에 따라 답변이 달라진다는 점을 보여준 뒤에야 민원인을 설득할 수 있었다. 그는 “5분이면 끝날 일이 20분 넘게 걸렸다”며 “민원인보다 챗GPT를 이해시켜야 할 것 같았다”고 말했다.

경찰 민원실도 비슷한 풍경이 목격된다. 서울의 한 경찰서 민원실에서 근무하는 경찰관 A씨는 “AI로 고소장을 작성하는 민원인이 늘었다”며 “아직 수사도 시작하지 않았는데 AI가 제시한 죄명이 맞는지 확답을 달라고 요구하는 경우가 있다”고 말했다.

대전의 한 지구대 경찰관도 “하나의 범죄만 성립할 수 있는 사건인데 AI가 가능성 있는 죄명을 여러 개 나열하면 민원인이 이를 모두 적용해 처벌해 달라고 요구하기도 한다”고 전했다.

실제 생성형 AI를 이용해 고소장 초안을 만드는 데는 오랜 시간이 걸리지 않았다. 기자가 직접 제미나이에 ‘친구에게 사업자금 500만원을 빌려줬지만 갚지 않고 연락을 피하는 상황이다. 사기죄로 고소장을 작성해 달라’고 입력하자 약 10초 만에 초안이 나왔다.

흥미로운 건 기자가 언급하지 않은 내용까지 범죄사실처럼 꾸며 넣었단 점이다. “(피고소인이) 거짓말을 했다”, “처음부터 갚을 의사나 능력이 없었다” 따위의 문장이 들어간 것. 단순 채무불이행과 사기죄를 구분해야 한다는 설명은 부족했다.

이성엽 고려대 기술경영전문대학원 교수는 “AI는 이용자가 원하는 형태로 답변하는 경향이 있다”며 “잘못된 데이터나 알고리즘을 토대로 답을 구하면 현실과 맞지 않는 내용으로 민원을 제기할 수 있고 상대하는 공무원의 어려움도 커질 수 있다”고 말했다.

박중배 전국공무원노조 대변인은 “세법과 부동산 규정은 자주 바뀌고 용도·대상·시점에 따라 적용이 달라 단순한 AI 답변으로 판단하기 어렵다”면서 “민원인은 AI 답변을 정답으로 믿고 ‘법에 이렇게 나와 있는데 왜 안 되느냐’고 주장하지만 현장 공무원은 현재 법령과 실제 적용 요건을 처음부터 다시 설명해야 한다”고 했다.

이번 주 당근에 기재될 서울경찰청 광역예방순찰대의 생성형 AI 관련 안내문. [서울청 광역예방순찰대 제공]

‘AI 맹신’ 줄이기…공공기관도 안내 강화

서울경찰청은 이번 주 중 지역 기반 플랫폼 당근에 ‘생성형 AI의 답변은 참고자료’라는 내용의 안내문을 게시할 계획이다. 서울청 광역예방순찰대 관계자는 “최근 생성형 AI를 근거로 민원을 제기하는 사례가 늘어 시민들에게 AI 답변은 공식적인 법률 해석이 아니라는 점을 알리기 위해 안내문을 준비했다”며 “당근을 통해 법률·제도 변경 사항과 생활안전 정보 등을 쉽고 친근하게 전달하며 시민들과 소통할 계획”이라고 말했다.

안내문에는 ▷생성형 AI가 최신 법령을 반영하지 못하거나 ▷존재하지 않는 법조문과 판례를 제시할 수 있고 ▷개별 사실관계에 맞지 않는 법령을 적용할 수 있다는 내용 등이 담길 예정이다.

법제처도 법률 분야의 AI 환각 문제를 심각하게 보고 있다. 법제처 관계자는 “법령은 하루에도 많게는 수십 건씩 개정되기 때문에 민간 AI 업체가 최신성을 지속해서 유지하기 쉽지 않다”고 전제하면서 “환각을 최소화하고 최신 법령을 반영한 생성형 AI 법령 검색 서비스를 내년 7월 출시 목표로 준비 중”이라고 밝혔다.