AI 판사가 시급합니다? [똑똑! 한국사회]

클립아트코리아

이승미 | 한국표준과학연구원 책임연구원(반도체물리학 박사)

“인공지능(AI) 판사 도입이 시급합니다”라는 댓글이 가장 많은 공감을 얻는 기사가 종종 눈에 띈다. 첨단과학기술에 관한 믿음인가 싶어 기사를 읽어보면, 과학자 이전에 한 명의 인간으로서 경악과 분노를 느끼기 일쑤다. 인공지능 판사의 필요성을 댓글로 부르짖은 시민이 정작 하고픈 말은 공정한 판결, 시민의 눈높이에 맞는 판결을 원한다는 외침이리라. 그렇다면 만일 재판을 대신 해주는 인공지능 알고리즘이 사법부에 도입된다면 과연 우리는 만족할 수 있을까? 인공지능 판사의 판결은 과연 우리의 바람처럼 공명정대할까?

인공지능 판사를 달리 표현하면 판결예측 알고리즘이다. 이에 관한 역사는 1964년에 발표된 논문으로까지 거슬러 올라간다. 소위 인공지능 빙하기 때문에 2004년에야 구현된 판결예측 알고리즘은 미국 연방대법원 자료를 학습한 후에 인간 전문가(59%)보다 더 뛰어난(75%) 판결 예측도를 보였다. 한편 인공지능은 판사보다는 변호사가 더 적성(?)에 잘 맞아 보인다. 대중적인 생성형 인공지능 챗지피티(GPT) 4.0이 미국 변호사 시험을 상위 10%로 통과함으로써 많은 인간 수험생에게 자괴감을 안겨주었다. 인간보다 월등히 뛰어난 챗지피티 4.0의 해박한 지식, 그리고 진실 여부와는 별도인 유려하고 현란한 말솜씨는 변호사에게 꼭 필요한 능력이었다.

인공지능 알고리즘과 빅데이터 학습은 떼려야 뗄 수가 없는 관계이며, 인공지능 판사에게 필요한 학습 데이터는 과거 판결문들이다. 우리는 흔히 데이터는 객관적이고 수치는 가치중립적이라 여긴다. 또한 데이터를 분석하는 과학적 도구인 알고리즘은 인간과는 달리 종교, 정치, 지역, 세대에 따른 편견이 없으리라 짐작한다. 하지만 이야말로 편견이다. 과학실험의 측정 수치 데이터가 아니라 사회적 현상과 인식에 대한 사회 데이터라면, 수집 단계에서부터 권력과 편견에 노출된다. 알고리즘 개발자의 주관성이 개입될 여지 또한 다분하기에 사회적 데이터는 데이터 자체에서 편향을 걷어내기 어렵다. 따라서 사회 데이터를 다룰 때는 데이터가 편향이나 배제 없이 수집, 분석, 해석되고 다양한 이해당사자와 공유되는지 데이터 형평성에 깊이 주의를 기울여야 한다.

또한 재판에서는 사실 확인과 가치 판단을 거쳐 판결이 내려진다. 판결문을 하나의 데이터로만 받아들일 때의 문제는 가치 판단의 영역이다. 우리가 살아가는 사회는 시간에 따라 변하고 우리의 가치 판단도 변한다. 판결의 기준은 당시의 현행법이다. 법률은 인간 사회의 반영이며 시간에 따라 변한다. 그것도 많이. 예를 들어 이탈리아의 철학자 조르다노 브루노는 세상이 신이 만든 유일한 세계임을 믿지 않는다는 이유로 당시로서는 법적 절차에 따른 재판과 판결 후에 화형당했다. 하지만 오늘날에는 한 시민의 우주관은 사형은커녕 처벌이나 언급조차 할 수 없는 개인의 자유 영역에 속한다. 뉴턴이 발견한 ‘만유인력의 법칙’처럼 시대나 국가와 무관하게 불변인 과학 법칙과는 다르다. 쉽게 표현하자면 “그때는 맞고 지금은 틀린다”, 혹은 “여기서는 이게 옳고, 거기서는 그게 옳다”가 통하는 영역이 법률이다. 과거의 판례가 현재의 우리에게 공명정대해 보이던가?

인공지능은 학습된 데이터를 기반으로 예측치를 내놓는다. 시민들이 답답하게 여기거나 판사들의 핑곗거리라 치부하는 “과거 판례에 따라”를 인공지능 판사는 인간 판사보다도 더 철두철미하게 지키리라는 이야기다. 이번 딥페이크 사건에 관해서는 어떨까? 지금처럼 엔(n)번방 사건, 아동학대치사 사건, ‘데이트 폭력’이라는 왜곡·순화된 이름으로 알려진 폭행 사건들에 대한 솜방망이 판례들이 쌓여 있는 한, 인공지능 판사는 우리 아이들을 안심시키는 판결을 하지 못한다. 지금 우리에게 필요한 판사는 판례라는 빅데이터에 얽매여 기계적인 판결을 읊조리는 판사가 아니라, 사회적 데이터의 젠더 편향을 인지하고 변화의 필요성을 인식한 판사이다. 인간이 인간임을 잊으면 안 된다는 생각을 가지고 있는, 인간적인, 너무나도 인간적인 판사 말이다.