"인공지능 활용 재판 '양날의 검'…법조인들 신중함·겸손함 필요"

로버츠 美 연방대법원장 강조
사법 업무 간소화 등 긍정 측면 外
거짓 정보 제공 ‘환각 현상’ 우려도

존 로버츠(사진) 미국 연방대법원장이 지난해 12월 31일(현지시간) 발표한 연례 연말 보고서를 통해 지난해 인류 최대 화두 중 하나였던 인공지능(AI)이 사법 업무를 간소화하며 편리함을 가져다주는 동시에 환각(hallucination: 거짓 정보를 사실인 것처럼 생성해 전달) 현상, 개인정보 유출 문제 등을 일으킬 수 있다고 경고했다.

로버츠 대법원장은 13쪽 분량의 보고서에서 “AI가 사법 업무, 특히 재판 단계에서 큰 영향을 미칠 것이라고 확신한다”며 이같이 밝혔다. 그러면서 그는 “법조인들이 AI를 사용하려면 신중함과 겸손함이 필요하다”고 강조했다.

로이터통신은 “대법원장의 논평은 AI가 법에 미치는 영향에 대해 지금까지 나온 것 중 가장 중요한 발언”이라고 평가했다.

사진=게티이미지뱅크

특히 그는 AI가 거짓 정보를 제공하는 환각 현상에 대해 우려의 목소리를 높였다.

로버츠 대법원장은 “유명 AI 애플리케이션을 사용한 변호사들이 존재하지도 않은 사건을 인용한 서면을 제출하는 일이 발생하기도 했다”며 “올해 AI가 ‘환각’이라는 문제로 헤드라인을 장식했다”고 전했다.

앞서 뉴욕타임스는 도널드 트럼프 전 미국 대통령의 변호사로 일했던 마이클 코언이 구글 AI 챗봇 바드로 만든 허위 법률 사례를 인용해 법원에 제출한 사실이 있다고 보도했다. 코언은 생성형 AI가 거짓된 답변을 생성할 수 있다는 사실을 몰랐다며, 바드가 자신의 검색 요청에 환각 현상을 일으켰다고 주장했다.

다만 로버츠 대법원장은 “인간 판사는 당분간 존재할 것으로 예상한다”면서 “법적 결정에는 여전히 인간의 판단을 적용해야 하는 회색 영역이 포함되는 경우가 많다”고 설명했다. 그러면서 적어도 현재 연구에서는 인간과 AI의 공정성을 비교했을 때, 인간의 판단이 기계가 내놓는 것보다 더 공정하다고 덧붙였다.

이예림 기자 yeah@segye.com