AI ‘환각’ 대응 나선 법원...“가짜 판례 내면 소송비용 독박”

대법원 TF, ‘과태료 부과’ 민사소송법 개정도 제안

서울 서초구 대법원 청사 전경. /뉴스1

인공지능(AI)이 지어낸 가짜 판례나 위·변조 증거를 법원에 제출하는 사례가 늘어나자 사법부가 대응 마련에 나섰다. 가짜 판례를 검증 없이 그대로 내면 소송 비용을 부담하게 되고 변호사는 징계 대상이 될 수 있다.

법원행정처는 31일 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 구성해 활동한 결과를 발표했다. 판사 8명과 변호사 2명 등 10명으로 구성된 이 TF는 지난해 11월부터 올해 3월까지 운영됐다. 실제로 존재하지 않는 판결을 그럴듯하게 만들어내는 AI의 ‘환각(hallucination)’ 현상 때문에 최근 각급 법원에서 허위 판례 인용 사례가 잇따라 보고됐다.

TF는 이런 문제에 우선 현행법 체계 안에서 재판부가 즉각 취할 수 있는 대응 방법을 제시했다. 앞으로 소송 당사자나 변호사가 가짜 판례를 인용하는 바람에 소송이 지연되거나 불필요한 비용이 발생하면 재판부는 이를 당사자에게 부담시킬 수 있다. 또 허위 내용이 담긴 서면은 법정 진술을 제한하고, 판결문에 해당 내용이 허위임을 명시할 수 있도록 했다. 변호사가 AI 생성 자료를 제대로 검증하지 않고 제출할 경우, 재판부가 대한변호사협회에 징계를 의뢰할 수도 있다.

TF는 민사소송법을 개정해 허위 법령을 인용하면 과태료를 부과할 수 있게 하자는 제안도 했다. 소송 당사자가 AI를 활용했을 경우 그 사실을 법원과 상대방에게 고지하고, 인용된 내용의 정확성을 스스로 확인하도록 의무화하는 내용의 민사소송규칙 개정도 제시했다.

법원에 제출된 서류에 인용된 법령·판례가 실제로 존재하는지, 서면 내용과 실제 판결이 얼마나 일치하는지를 자동으로 확인해주는 기능 개발도 필요하다고 밝혔다. 지난달 사법정보공개포털에는 이미 AI가 제시한 사건번호가 실제로 존재하는지 누구나 확인할 수 있는 ‘허위 사건번호 확인’ 기능이 추가됐다. 법원은 향후 판결문 공개 범위를 확대해 국민들이 직접 AI 답변을 검증할 수 있도록 할 방침이다.

대법원 관계자는 “AI 활용은 거스를 수 없는 흐름이지만, 사법 정의를 훼손하는 위험에는 체계적인 대비가 필요하다”며 “기술 발전에 능동적으로 대응해 사법부 본연의 재판 기능을 충실히 수행하겠다”고 밝혔다.