[필동정담] 인간 판사를 압도한 AI

경제학자 센딜 멀레이너선은 2008~2013년 뉴욕에서 공소 사실 심문에 출두한 피의자 55만명의 기록을 취합했다. 전과 기록을 비롯해 검사가 판사에게 제출한 정보를 인공지능(AI) 시스템에 집어넣고는 불구속 상태에서 재판받을 40만명을 고르게 했다. 그러고는 판사들이 실제로 고른 40만명과 비교했다.

결과는 AI의 압승이었다. 판사가 풀어준 피의자들이 재판받는 도중에 범죄를 저지른 확률은 AI보다 25%나 높았다. AI의 판단력이 판사를 압도한 것이다. 그렇다면 AI가 인간 판사를 대체하지 말라는 법도 없을 것이다.

하지만 대법원이 지난 26일 개최한 'AI와 양형' 심포지엄에서는 '대체 불가' 의견이 많았다. AI는 피의자의 표정·태도 같은 비언어적 행위를 판단할 수 없기 때문이라고 했다. AI가 흑인에게 높은 형량을 선고하는 편견을 보였다는 점도 근거로 제시됐다.

그러나 멀레이너선의 연구에서 확인되듯이, 뉴욕 판사들은 피의자의 표정·태도를 직접 눈으로 봤지만 AI보다 못한 판단을 했다.

인간 판사의 편견도 심각하다. 이스라엘에서 경력 10년 이상의 판검사로 구성된 가석방위원회의 결정 1127건을 조사한 적이 있었다. 놀랍게도 점심 전에는 가석방 승인 비율이 10%였으나 식후에는 65%로 치솟았다. 배가 부르고 기분이 좋아지니 관대해진 것이다. 응원하는 축구팀이 주말 경기에서 패배한 직후 월요일에 더 가혹한 판결이 나왔고, 날씨가 더우면 망명 신청이 기각됐다는 조사 결과도 있다. 그렇다면 알고리즘에 따라 판단하는 AI가 편견이 덜할 수 있다.

그러나 AI의 우월성이 확인된다고 해도 판사를 대체하지 못할 것이라는 의견도 만만치 않다. 노벨 경제학상 수상자인 대니얼 카너먼은 "우리가 기계에 완벽을 요구하기 때문"이라고 했다. AI의 잘못된 결정으로 무죄가 유죄가 되는 건 단 한 건도 수용하지 못할 것이라는 뜻이다. 카너먼은 "실수는 인간만의 유일한 특권"이라고 했다. AI에 그 특권을 인정할 때까지 AI 판사는 나오지 못할 것이다.

[김인수 논설위원]