사법 지연 부르는 환각 현상 [이서윤의 인공지능&인권지능]

게티이미지뱅크

이서윤 | 사법연수원 교수·판사

2023년 미국의 한 변호사가 챗지피티(ChatGPT)를 이용하여 생성한 가짜 판례를 법원에 제출하여 세계적으로 이목을 끈 지도 어느덧 2년이 지났다(Mata v. Avianca, Inc.). 프랑스의 학자 다미앵 샤를로탱의 분석에 따르면, 인공지능이 만들어낸 허위 판례나 법리가 인용된 사례는 현재까지 조사된 것만 429건에 달한다. 그중 4건은 판사, 185건은 변호사, 230건은 소송 당사자가 제출한 것으로 보고되었다.

인공지능은 사법 영역에서 법률 서비스에 대한 접근성과 효율성을 대폭 향상시킬 것으로 기대되어왔다. 그러나 챗지피티와 같은 거대언어모델(LLM·대량의 말뭉치를 학습해 자연어를 이해하고 생성하는 인공지능)이 상용화된 이래 검증되지 않은 결과물이 법원에 제출되는 경우가 빈발하면서, 이로 인한 사법 자원의 심각한 낭비가 예견되고 있다.

최근 우리나라에서도 지방법원에 제출된 한 변호인 의견서에 인공지능이 만들어낸 허위 판례가 포함된 사실이 적발되었다. 단순 실수가 빚어낸 촌극으로 치부하고 넘길 것이 아니다. 이는 법적 의무와 윤리의 위반 문제로 보아야 한다. 과거에는 존재하지 않았던 현상에 맞서 법원이 진위 검증을 위한 시간을 추가적으로 소비하기 시작하면 사법 절차의 전체적 지연은 불가피하고, 그 부담은 결과적으로 국민 모두에게 돌아갈 것이다.

문제를 해결하기 위해서는 두 방향에서의 노력이 필요하다. 첫째, 제도적 장치의 정비다. 인공지능이 만든 허위 판례를 검증 없이 제출하는 행위는 법정 윤리 위반이자 법정 질서를 해치는 행위로 보아야 한다. 몇몇 국가에서는 이미 이러한 행위에 대한 다양한 형태의 제재가 병행되고 있다. 예를 들어 지난달 미국에서는 변호사가 허위 판례·인용과 왜곡된 법리 수십건을 제출한 데 대하여 상대방의 소송비용 약 2만4000달러를 부담하라는 명령이 내려졌고(Puerto Rico Soccer League v. Federación Puertorriqueña de Futbol), 최근 캐나다에서는 소송 당사자가 허위 판례를 제출한 데 대하여 5000캐나다달러의 금전적 제재가 부과되었다(Specter Aviation Limited v. Laprade). 이외에도 서면 무효 처리, 경위서 제출 요구, 변호사협회에 대한 통보, 인공지능 교육 이수가 부과되는 등 제도적 장치가 점차 자리를 잡아가는 모양새다.

둘째, 검증 습관의 정착이다. 인공지능의 결과물에 대하여 정확성과 사실관계를 직접 검증하고, 그 결과에 대하여 원칙적으로 제출자가 책임을 지도록 하는 원칙은 사법 서비스에 연관된 모든 사람에게 적용되어야 한다. 법률 영역에 특화된 인공지능을 사용할 경우 ‘환각 현상’(사실과 다른 정보를 생성하는 현상)이 발생할 가능성은 현저히 작아질 것이나, 이를 완전히 제거하기는 무척 어려울 뿐만 아니라, 답변에 대한 신뢰도가 높을수록 사용자 의존성도 함께 커지게 마련이므로 사용자는 오히려 더욱 주의를 기울여야 할 것이다.

인공지능의 도입은 종래의 업무 방식을 획기적으로 바꿔놓을 수는 있어도, 곧바로 노동으로부터의 해방을 가져오지는 않는다. 우리는 인공지능을 흔히 속도와 효율성을 높이는 수단으로 인식하지만, 그보다 중요한 것은 같은 일을 더 깊이 있고 완성도 있게 해내도록 돕는 도구로 삼는 일이다. 기계적이고 단순한 업무에 소요되는 시간이 경감되는 만큼, 판단과 책임이 요구되는 영역에는 더욱 깊이 개입해야 한다. 그렇게 함으로써 우리는 전에 없던 이 새로운 기술을 능동적이고 현명하게 활용할 수 있을 것이다.