美대법원장 “AI, 법의 비인간화 우려... 인간 판사만의 영역 있다”

존 로버츠 미국 연방대법원장. / 로이터 연합뉴스

존 로버츠 미국 연방대법원장이 인공지능(AI) 발전으로 인한 사법 체계의 변화에 우려를 표시하면서, AI를 사용할 때 “주의와 겸손이 필요하다”고 강조했다.

로이터통신 등 주요 외신에 따르면 로버츠 대법원장은 지난달 31일(현지 시각) 발표한 ‘2023년 연례 연말 보고서’를 통해 “AI는 변호사는 물론 변호사가 아닌 이들의 사법 접근성을 높이고 법률 연구에 혁명을 일으키는 것은 물론 법원이 사건을 더 빠르고 저렴하게 해결하도록 지원할 수 있는 잠재력이 있다”면서도 “사생활을 침해하고 법을 비인간적으로 만들 위험성도 분명히 존재한다”고 말했다. 이어 “AI는 법조계에 복합적인 축복을 의미하며, 기술이 판사들의 일하는 방식을 변화시키므로 AI를 사용할 때는 주의와 겸손이 필요하다”고 말했다.

로버츠 대법원장은 “AI에 대한 환각으로 인해 변호사들이 법원 서류에 존재하지 않는 사건을 인용한 사례가 있었다”고 강조했다. 이는 변호사들이 변론서 작성에 AI를 이용하는 과정에서 허위 판례가 포함된 사례가 있었던 것을 지적한 것으로 보인다. 지난해 6월 뉴욕의 한 변호사는 고객에게 유리한 판례가 담긴 변론서를 법원에 제출했지만, 이는 생성형 AI인 챗GPT를 통해 파악한 실제 존재하지 않는 판례란 사실이 드러난 바 있다. 지난해 12월엔 도널드 트럼프 전 대통령의 옛 측근으로 유명한 마이클 코언 변호사는 구글 AI인 ‘바드’를 이용해 만든 변론서를 제출했다가 허위 판례로 밝혀지기도 했다.

로버츠 대법원장은 “도주 위험, 재범 가능성 등 예측과 관련된 재량적 결정을 할 때 AI를 사용하면 적법 절차, 신뢰, 편견에 대한 우려가 발생한다”며 “판결을 할 때는 피고인의 떨리는 손과 목소리, 억양의 변화, 땀방울, 순간의 망설임, 눈맞춤 등이 영향을 미친다”고 강조했다. 오로지 인간 판사만이 할 수 있는 영역이 있음을 강조한 것이다.

- Copyright ⓒ 조선비즈 & Chosun.com -