AI가 만든 ‘유령 판례’ 법정 등장…검증 없이 제출하면 과태료·징계

법원, AI 사용 검증 의무화

대법원 청사. 김혜윤 기자 unique@hani.co.kr

“원고가 제시한 대법원 2001다○○○○○, 대법원 2007다○○○○○ 판결은 모두 존재하지 않는 사건번호이다”

서울북부지법의 한 민사 단독 판사는 지난해 8월 원고가 자신의 채무에 대한 강제집행을 막아달라고 낸 청구이의 소송 판결문에 이례적인 각주를 달았다. 원고 쪽이 제시한 대법원 판례가 존재하지 않는다는 사실을 판결문에 적은 것이다. 실제 해당 판례는 인공지능(AI)이 만들어낸 ‘허위 판례’였다. 원고는 결국 이 사건에서 패소했다. 이처럼 인공지능이 만든 유령 판례가 법원에 제출되는 사례가 늘어나자 대법원이 대응에 나섰다. 법원은 유령 판례를 검증 없이 제출할 경우 과태료 부과나 변호사 징계 등 불이익을 준다는 방침이다.

대법원 법원행정처는 31일 ‘인공지능(AI) 활용 허위 주장·증거 제출 대응 태스크포스’(티에프) 활동 결과를 발표했다. 티에프는 지난해 10월 발족해 5개월 동안 인공지능의 ‘환각 현상’(사실과 다른 정보를 생성하는 현상)으로 인한 허위 주장·증거 제출 사례를 수집하고 대응 방안을 논의해왔다.

티에프는 우선 관련 법령을 검토해 즉각적인 대응이 가능한 방안을 제시했다. 소송 당사자가 인공지능이 만든 허위 판례를 인용해 소송이 지연되거나 불필요한 비용이 발생하면 해당 비용을 당사자에게 부담시키는 것이다. 또 허위 판례 등이 인용된 서면은 법정 진술을 제한하고 판결문에 해당 내용이 허위임을 적시하는 방안도 제시됐다. 변호사가 인공지능이 만들어낸 허위 판례를 제대로 검증하지 않고 인용해 제출할 경우, 대한변호사협회에 징계를 의뢰하는 방안도 포함됐다. 이같은 판단은 사건을 심리하는 담당 재판부에서 내릴 수 있다.

티에프는 대법원 규칙인 ‘민사소송규칙’ 개정 방안도 내놨다. 소송 당사자가 의견서 등 법원 제출 서류에 인공지능을 활용했을 경우 이를 상대방과 법원에 고지하고, 인용 내용의 정확도 확인을 의무화하는 내용이다. 또 허위 판례 등을 인용할 경우 과태료를 부과할 수 있도록 규칙을 개정할 필요가 있다고 제안했다.

아울러 티에프는 전산시스템에 법원에 제출된 서류에 인용된 법령과 판례의 존재 여부 등을 자동으로 알려주는 기능을 탑재할 필요가 있다고 제안했다. 법원은 지난 2월부터 사법정보공개포탈에 ‘허위 사건번호 확인 기능을 추가해 허위 판례 여부를 확인할 수 있도록 하고 있다.

법원행정처 관계자는 “인공지능의 확대는 거스를 수 없는 시대적 흐름이며 법원은 이에 따른 변화와 위험에 체계적으로 대비할 필요가 있다”며 “급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다”고 밝혔다.

김수연 기자 link@hani.co.kr