‘AI 가짜 판례’ 골치… “인용 땐 과태료”

법원 TF, 대응기준 마련
소송 지연 등 사법시스템 혼란
소송비 부담·변협에 징계 의뢰
사법포털 ‘허위 사건번호’ 확인
‘AI 환각 검증’ 법규 개정도 검토

인공지능(AI)이 만든 허위 법령·판례가 법원에 잇따라 제출되며 문제가 되자 법원이 대응 방안을 마련했다. ‘허위 인용’을 한 당사자에게 과태료를 부과하도록 소송법을 개정하고 허위 내용이라는 점을 판결문에도 적시하겠다는 방침이다.

서울 서초구 대법원의 모습. 연합뉴스

대법원 법원행정처는 지난해 11월부터 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 구성해 5개월간 활동한 결과를 31일 공개했다.

AI 기술이 고도화하며 소송 당사자는 물론 법률가들도 AI를 실무에 활용하고 있다. 하지만 자칫 잘못된 정보가 법원 등에 제출되고 이를 기반으로 한 판례가 나올 경우 사법시스템에 큰 혼란이 발생할 것이란 우려가 지속되고 있다.

실제로 최근 ‘AI 환각(할루시네이션·허위 정보를 그럴듯하게 지어내는 것)’ 현상으로 존재하지 않거나 잘못된 내용이 담긴 법령이나 판례를 그대로 인용한 서면이 각급 법원에 제출되는 사례가 다수 보고됐다.

지난해 지방의 한 법원 형사재판부는 변호사가 제출한 의견서에 인용된 판례 5건이 존재하지 않는 것을 확인한 것으로 알려졌다. AI가 지어낸 ‘가짜 대법원 판례’를 재판부가 판결문에서 직접 지적한 사례도 나왔다.

이에 사법행정을 담당하는 행정처에서 TF를 꾸리고 대책 마련에 나선 것이다.

TF는 각급 법원 의견 수렴과 해외 실무 동향 등을 조사해 우선 현행법 체계 안에서 재판부가 취할 수 있는 대응책을 제시했다.

먼저 재판부는 당사자 또는 대리인이 AI 활용 허위 법령을 인용해 불필요한 소송 비용을 발생시키거나 소송을 지연시킨 경우, 그로 인한 소송 비용을 부담하게 할 수 있다. 또 허위 법령·판례 인용 서면에 대해선 변론에서 그 진술을 제한할 수 있고 판결서에 관련 내용이 허위임을 적시할 수 있다. 아울러 변호사가 AI 생성 허위 법령·판례를 제대로 검증하지 않고 서면에 인용한 경우 대한변호사협회에 징계를 의뢰할 수 있다. 다만 이런 조치들을 시행할지 여부는 재판부 재량에 달려 있다.

당사자가 허위 법령 등을 인용하는 경우 과태료를 부과할 수 있도록 하는 소송법 개정도 제안했다. 또 당사자 등이 AI 활용 사실을 소송 상대방과 법원에 알리고, 소송서류에 기재한 법령 등의 주요 내용이 정확한지 여부를 확인하도록 하는 내용의 민사소송규칙 개정도 함께 건의했다.

TF는 재판 당사자가 해당 판결의 실제 존재 여부를 확인할 수 있는 서비스 개발도 제안했다.

이를 반영해 2월20일부터 사법정보공개포털에 ‘허위 사건번호 확인’ 기능이 추가됐다. 누구든 사건번호를 입력해 해당 판결서의 존재 여부를 쉽게 확인 가능하다.

이 밖에도 제출 서류에 인용된 법령, 판례의 존부, 서류에 기재된 내용과 실제 내용 간 유사도를 자동으로 알려주는 기능 개발도 제안했다. 판결문 공개를 확대해 AI가 제시하는 판결이 실제 존재하는지 여부와 해당 판결의 내용을 확인할 수 있도록 하는 내용도 제시됐다.

대법원은 이러한 TF의 제안을 검토해 추후 시행 여부를 결정할 전망이다.

법원행정처 관계자는 “현재 시점에서 검토할 수 있는 대응 방안을 정리하고 향후 AI 기술과 실무환경의 변화에 능동적으로 대응하기 위한 기초를 다졌다”며 “AI 기술의 발전 추이와 재판에 미치는 영향 등을 면밀히 살펴서 적시에 추가 방안을 마련하고 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다”고 밝혔다.

홍윤지·최경림 기자