유령판례·가짜사건…법원 'AI 환각' 대책 "제재·판결문 적시"

가짜 법령·판례 제출 늘자 대응책…'과태료 부과·AI 활용 내용 검증' 법규 개정도 검토
소송비용 부담·진술 제한·변협에 징계의뢰…사법정보포털에 '허위 사건번호 확인' 가능

인공지능(PG) [강민지 제작] 일러스트

(서울=연합뉴스) 이미령 기자 = 인공지능(AI)이 만든 허위 법령·판례가 법원에 제출되는 사례가 잇따르는 등 법조계에서 혼란이 일자 법원이 '허위 인용'을 판결문에 남기거나 변론에서 진술을 제한하는 등의 구체적 방안을 마련해 대응에 나섰다. 각종 법령과 판례, 사건검색 등의 정보를 제공하는 법원 사법정보공개포털에서는 가짜 사건번호를 확인할 수 있도록 이미 시스템을 보완해 가동 중이다.

대법원 법원행정처는 작년 11월부터 활동한 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'(팀장 장지용 국제교류추진단장)의 지난 5개월간 활동 결과를 31일 공개해 이같이 소개했다.

AI 환각(할루시네이션·잘못된 정보를 그럴듯하게 제시하는 것) 현상으로 허위 법령·판례를 인용하는 사례가 각급 법원에서 다수 보고되면서 사법행정을 담당하는 법원행정처 차원에서 대응책 마련에 나선 것이다. 기술이 고도화하면서 AI는 특히 '나홀로 소송' 등을 비롯해 당사자들의 사건 대응에 도움을 주고 있고 법률가들도 널리 활용하고 있다. 하지만, 자칫 잘못된 정보가 파생될 수 있어 윤리적 논란과 함께 큰 혼란도 야기할 수 있어 본격적인 논의가 필요한 상황이다.

TF는 각급 법원 의견 수렴과 해외 실무 동향 조사를 거쳐 현시점에서 재판부가 취할 수 있는 대응책을 제시했다.

재판부는 우선 당사자나 대리인이 AI 활용 허위 법령을 인용해 불필요한 소송 비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송 비용의 전부나 일부를 부담하게 할 수 있다.

또 허위 법령·판례 등이 인용된 서면에 대해선 변론에서 그 진술을 제한할 수 있고, 판결서에 관련 내용이 허위임을 적시할 수 있다. '원고가 제시한 판결은 존재하지 않는 사건번호'와 같은 식이다.

나아가 변호사가 AI 생성 허위 법령·판례 등을 제대로 검증하지 않고 제출한 경우 재판부가 대한변호사협회(변협)에 징계를 의뢰할 수 있다. 다만, 이런 조치들을 시행할지는 개별 재판부 재량에 달려있다.

사법정보공개포털 허위 사건번호 확인 시스템 [사법정보공개포털 캡처. 재판매 및 DB 금지]

TF는 당사자가 허위 법령 등을 인용한 경우 과태료를 부과할 수 있도록 하는 소송법 개정도 제안했다.

AI를 활용한 당사자가 그 활용 사실을 재판 상대방과 법원에 고지하고, 주요 내용이 정확한지 여부를 확인하도록 하는 내용의 민사소송규칙 개정도 함께 제안했다.

TF는 재판 당사자가 해당 판결의 실제 존재 여부를 확인할 수 있는 서비스 제공도 제안해 지난달 20일부터 사법정보공개포털에서 '허위 사건번호 확인' 기능이 추가됐다. 누구든지 사건번호를 입력해 해당 판결서의 존재 여부를 쉽게 확인할 수 있다.

법원행정처 관계자는 "현재 시점에서 검토할 수 있는 대응 방안을 정리하고 향후 AI 기술과 실무환경의 변화에 능동적으로 대응하기 위한 기초를 다졌다"며 "AI 기술의 발전 추이와 재판에 미치는 영향 등을 면밀히 살펴서 적시에 추가 방안을 마련하고 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다"고 밝혔다.

already@yna.co.kr

▶제보는 카톡 okjebo