AI를 맹수에 비유한 日 사법부 수장… “AI 환각 경계해야”

“아직은 AI 재판에 활용할 시기 아냐”

일본 사법부 수장이 이른바 ‘인공지능(AI) 환각’의 위험성을 경고하며 “재판관의 판단에 AI를 활용하는 것은 생각하지 않는다”고 말했다. ‘AI 할루시네이션(hallucination)’으로 불리는 AI 환각은 생성형 AI가 사실이 아닌 내용을 사실처럼 그럴 듯하게 만들어내는 현상을 뜻한다.

일본 최고재판소 이마사키 유키히코 장관(우리 대법원장 해당)이 헌법기념일(5월3일)을 맞아 기자회견을 하고 있다.  방송 화면 캡처

3일 요미우리(讀賣)신문에 따르면 우리 대법원에 해당하는 일본 최고재판소 이마사키 유키히코(今崎幸彦) 장관은 헌법기념일을 맞아 기자회견을 열었다. 이는 제2차 세계대전 패전 후 미군의 점령 통치 기간인 1947년 5월3일 지금의 일본 헌법이 시행된 것을 기념하는 날이다.

이마사키 장관은 재판에 AI를 도입하는 방안과 관련해 “(AI의) 분석 내용을 재판에 활용할 수 있게 될지 모르지만 ‘아직(은 아니다)’이라는 느낌을 받았다”고 말했다. 일본 법원은 올해 들어 민사재판의 증거 정리 등 작업에 생성형 AI의 분석 내용을 보조적으로 쓸 수 있는지 분석하고 있다. “AI가 엄청난 속도로 성능이 향상되고 있어 ‘맹수’와 같다”고 지적한 이마사키 장관은 “AI가 틀린 내용을 버젓이 이야기하는 할루시네이션(환각) 현상이나 개인정보 유출 등의 위험을 고려해야 한다”고 강조했다.

요즘 세계 각국에선 변호사들이 소송과 관련해 실제로는 존재하지 않는 가짜 판례를 법원에 자료로 제출하는 일이 비일비재해 판사들이 이를 걸러내느라 진땀을 흘리고 있다. 해당 판례는 생성형 AI가 만들어낸 것을 변호사가 검증하지 않고 그냥 법원에 낸 경우가 대부분이다. 미국에선 의뢰인들로부터 어마어마한 수임료를 받는 대형 법무법인(로펌) 소속 변호사들도 이 같은 오류를 태연히 저지르고 있는 실정이다. 오죽하면 “변호사 자격 박탈 등 엄중한 징계로 일부 변호사들의 도덕적 해이를 막아야 한다”는 목소리까지 나온다.

이마사키 장관은 1957년 11월 태어나 현재 68세다. 1982년 교토대 법학부를 졸업하고 사법연수소(우리 사법연수원 해당)를 거쳐 1984년 판사 생활을 시작했다. 사법연수소 교수, 최고재판소 사무총장(법원행정처장), 도쿄고등재판소 장관 등을 거쳐 2022년 최고재판소 판사(대법관)에 임명됐다. 2024년 8월 최고재판소 장관에 오른 그는 오는 2027년 11월이면 70세 정년으로 물러날 예정이다.

김태훈 논설위원