AI 가 만든 ‘가짜 판례’ 법정 침투… 법원, 허위대응 TF 가동

존재하지 않는 사건번호 인용 등
부정확한 근거 활용 사례 확산
소송 절차 지연 땐 불이익 조치

▲ 법원 판결. 일러스트/한규빛

춘천지법 강릉지원에서 인공지능(AI)으로 만든 허위 판례가 재판에서 제출, 사법당국도 대책 마련을 서두르고 있다.

6일 본지 취재를 종합하면 지난해 춘천지법 강릉지원에서 확정된 민사항소심 판결에서 AI 허위 판례가 적발됐다.

해당 재판은 민사재판에서 1심 원고 승소로 피고가 항소한 사건인데, 피고가 제출한 항소이유서에 허위 판례가 포함된 것으로 드러났다.

피고는 재판 준비 과정에서 변호사의 도움 없이 AI를 활용해 항소이유서 등을 제출한 것으로 전해졌다.

당시 재판부의 사건 검토 결과 피고가 사건번호까지 기재하며 인용한 판례들은 모두 실제 존재하지 않는 사건번호의 판결로 확인됐다.

해당 사건 재판부는 판결문에 “피고가 근거로 제시한 대법원 2013. 7. 12. 선고 ‘2012다51164’ 판결은 존재하지 않는 것으로 보인다”고 항소기각 사유에 명시했다.

연결된 각주에는 “피고가 항소이유서에서 인용한 지방법원 판결과 대법원 판결들은 모조리 존재하지 않는 것으로 보인다”고 설명했다.

또 법리나 증거에 의하더라도 1심 판결의 결과가 타당해 ‘피고의 항소를 기각하고 항소비용은 피고가 부담한다’고 선고됐다.

이와 같은 일이 생기는 이유는 최근 인공지능(AI) 기술이 발전하면서 당사자들이 혼자서 AI를 활용해 소송을 준비하는 경우가 늘고 있기 때문이다.

이 과정에서 인공지능이 잘못된 정보를 그럴듯하게 제시하는 ‘AI 환각 현상’으로 이용자들은 잘못된 정보를 그대로 받아들여 제출하고 있는 상황이다.

허위 법령과 판례가 법원에 제출되는 사례가 잇따르자 법원도 대응에 나섰다. 각종 법령과 판례, 사건검색 등의 정보를 제공하는 법원 사법정보공개포털에서는 가짜 사건번호를 확인할 수 있도록 시스템을 운영중이다.

특히 법원행정처는 AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)를 구성, 앞으로 소송 당사자나 변호사가 가짜 판례를 인용하는 바람에 소송이 지연되거나 불필요한 비용이 발생하면 재판부는 이를 당사자에게 부담시킬 수 있도록 조치했다.

춘천지법 관계자는 “AI 등으로 생성된 허위의 판례나 판결문을 소송에서 제출하는 사례는 상당수 있을 것으로 보인다”며 “다만 현재로서 춘천지법 내에서 그런 사건이 얼마나 되는지 명확히 통계로 파악하지는 못하고 있다”고 답했다.  신재훈 기자

#판례 #법원 #피고 #가짜 #허위