美대법원장, AI 위험성 경고…"사법 접근성 제고하나 맹신은 금물"

로버츠 대법 연말보고서 발간…"법률분야 AI 사용시 신중해야"
"환각 탓에 가짜 판례 인용해"…"추론 영역서 인간 판사 필요"

존 로버츠 미국 연방대법원장이 지난해 2월 워싱턴DC 국회의사당에서 조 바이든 대통령의 국정연설(연두교서)을 듣기 위해 자리를 잡는 모습이다. 2023.2.7. ⓒ 로이터=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 기자 = 미국 연방대법원장이 생성형 인공지능(AI) 기술의 위험성을 경고했다. 저소득층의 사법 접근성과 법원 행정의 효율성을 제고하는 건 맞지만, 사실이 아닌 정보를 마치 사실인 것처럼 답변하는 '환각 현상'이 빈번한 만큼 AI를 맹신해서는 안 된다는 취지에서다. 법리 관계를 검토하는 최종 단계에서 인간 판사가 필요하다는 점도 강조했다.

로이터 통신과 일간 뉴욕타임스(NYT)에 따르면 존 로버츠 미 연방대법원장은 지난달 31일(현지시간) 이 같은 내용을 담은 13쪽 분량의 연말 보고서를 발간했다. 보고서에는 최근 법률 분야에서 사용되는 생성형 AI 기술에 대한 로버츠 대법원장의 기대와 우려가 동시에 담겼다.

로버츠 대법원장은 챗GPT-4 등이 미국 변호사 시험에 합격하고 법학전문대학원(로스쿨) 과제에서 B 학점을 받은 사례를 거론하면서 "AI 없는 법률 연구는 조만간 상상할 수 없을지도 모른다"고 전망했다. 이어 "AI는 변호사와 의뢰인 모두에게 핵심 법률 정보에 대한 접근성을 획기적으로 높일 수 있는 잠재력을 지닌다"고 평가했다.

또한 "한정된 자원을 가진 법원 시스템이 소송 수요를 따라가지 못하는 문제점을 완화할 수 있는 잠재력도 갖고 있다"며 AI 기술이 파산 신청서 등 각종 서류 제출 절차를 간소화하고 법원의 행정 비용을 절감할 수 있다고 긍정했다.

그러면서도 "올 한해 주요 AI 애플리케이션(앱)이 환각 문제로 언론사 헤드라인을 장식했다"며 "AI를 사용할 때는 신중함과 겸손함이 필요하다"고 조언했다. 구체적으로 도널드 트럼프 전 대통령의 변호사로 일했던 마이클 코헨을 콕 찝어 "AI 앱을 사용한 변호사들이 존재하지도 않는 판례를 인용해 법원에 서류를 제출하는 일도 발생했다"고 꼬집었다.

실제로 선거자금법 위반 혐의로 2018년 유죄 판결을 받아 복역하던 도중 1년 만에 가석방된 코헨은 보호관찰 조기 종료를 요구하며 구글 바드로 관련 판례 3건을 찾아 맨해튼 연방법원에 서면 제출했으나 재판부는 판례 자체가 존재하지 않는다며 지난달 8일 이를 각하했다. 코헨은 자신의 변호사들이 판례의 존부를 꼼꼼하게 확인하지 못했다면서 같은달 30일 법원에 공식으로 사과했다.

아울러 로버츠 대법원장은 "법적 판단에는 종종 인간의 판단을 적용해야 하는 '회색 지대'가 존재한다"며 추론 영역에서만큼은 여전히 인간 판사가 필요하다고 역설했다. 그는 "판사는 판결을 선고할 때 피고 진술이 진정성있는지 여부를 가린다"면서 "떨리는 목소리, 말투의 변화, 땀방울, 잠깐의 망설임, 시선 분산 등 여러 단서를 인식하고 올바른 추론을 이끌어내는 데는 기계보다 인간을 더 신뢰할 만하다"고 지적했다.

이런 이유로 사실관계보다 법리관계를 주로 다투는 상소심에서는 더욱 인간 판사가 AI로 대체되는 일은 없을 것이라고 로버츠 대법원장은 단언했다. 그는 "여러 상소심 판결은 하급 법원이 재량권을 남용했는지 여부에 달려 있는데, 이는 본질적으로 사실과 관련된 회색 지대를 포함하고 있다"면서 "AI는 기존 정보에 기반하기 때문에 필요한 정보를 제공할 수 있지만 그러한 결정을 내릴 수 없다"고 선을 그었다.

seongskim@news1.kr