피고인 척 보면 미래 범죄 예측... AI가 판사되면 세상은 나아질까?

[AI시대의 윤리학: ①권력자 AI]
사법의 영역으로 들어오는 AI 논란

편집자주
인공지능(AI) 발전 속도가 무섭도록 빠릅니다. 몇 년 전 바둑에 통달하더니, 이젠 철학 에세이를 쓰고, 변호사 시험에 척 붙습니다. AI 전문가들조차 속도를 부담스럽게 여길 지경이죠. 그러나 이렇게 눈부시게 발전하는 AI를 ‘어떻게 쓸지’를 두고 아직 사회적 합의와 공감대가 형성되지 않았습니다. 인간의 목숨과 운명이 걸린 일에 AI를 활용할 수 있을까요? 이는 기술적 문제라기보단 인문학(윤리학)이 풀어야 할 질문입니다. AI 전성시대에 인간이 마주한 딜레마, 그 해결의 실마리를 함께 고민해 봅니다.

게티이미지뱅크

공상과학 영화 '엘리시움'(2013년)의 한 장면. 인공지능(AI) 로봇(안드로이드) 요원이 전과자인 주인공 맥스 드 코스타(맷 데이먼 분)를 불심검문한다. 코스타는 "가방을 열어보라"는 요원에게 비꼬는 답을 했다가 보호관찰 8개월 연장 처분을 받는다. 사람 모양 마네킹인 AI 보호관찰관은 "네가 다시 범죄를 저지를 확률은 78.3%. 차량절도, 특수폭행, 체포 거부"라고 말한다. 이 장면의 배경은 2154년. 미래엔 국가 고유 영역인 사법(司法)에도 AI 기술이 침투해, AI가 인간의 기본권을 직접 제한할 수 있다는 가능성을 보여준다.

실제 외국에선 '엘리시움' 정도까지는 아니지만 사법의 영역에 AI 기술이 활용되는 사례를 쉽게 찾아볼 수 있다. AI 기술을 활용하는 목적은 주로 △사법 접근권 향상 및 자율적인 분쟁 해결 지원 △법관의 업무 경감 및 신속한 판결 △재범 예측 등이다.

예컨대 호주는 이혼 소송에서 재산 분할이나 양육 방식 등을 온라인에서 자율적으로 해결하도록 하는 디지털 사법 서비스를 제공한다. 당사자들이 입력한 정보를 AI가 분석하고, 가정법원의 기존 판단과 비교해 재산분할안을 제시하는 식이다. 또 중국 허베이 고등법원은 '지능형 재판 1.0'이라는 시스템을 개발했다. AI가 자동으로 사건기록을 디지털화하고, 관련 법령과 판례를 검색하며, 법관에게 배당하는 역할까지 한다. 이렇게 되면 법관 업무를 획기적으로 줄이는 효과가 있다.

AI 기술의 사법 영역 침투를 두고 가장 큰 논쟁이 불붙었던 사례는 미국의 재범 예측 프로그램 콤파스(COMPAS)다. 민간기업이 개발한 콤파스는 범죄 전력, 범죄자 성향, 태도 등 137개 요소를 토대로 재범 위험성을 1단계에서 10단계까지 평가한다. 판사가 형량을 정할 때 결정을 지원하는 도구인데, 뉴욕 위스콘신 캘리포니아 플로리다 등 여러 주에서 활용된 사례가 있다. 2016년 미국의 비영리 탐사 언론기관인 프로 퍼블리카는 "콤파스가 백인보다 흑인의 재범 위험률을 높게 보는 편향된 예측을 하고 있다"고 보도했다.

콤파스’의 인종 편향 비율. 그래픽=송정근 기자

이런 사례로 볼 때 사법 영역에 AI 기술을 활용하는 것은 극도로 신중해야 한다는 게 전문가들의 의견이다. 한 개인이 사법 판단을 받는 것은 그의 삶에 매우 중대한 영향을 미치고, 잘못된 AI 판단의 부작용은 돌이킬 수 없기 때문이다. 유럽연합(EU)의 인공지능법안도 범죄 예측 등 법 집행에 사용하는 AI를 '고위험 AI'로 분류했으며, 사람을 차별적으로 선별하거나 공정한 재판을 받을 권리 등 기본권을 침해할 수 있다고 경고했다.

이런 부작용은 판사가 단순히 콤파스 같은 프로그램을 보조 도구로만 쓴다고 해도 쉽사리 사라지지 않는다. 판사가 아무리 객관적 판단을 하려고 해도 숫자로 제시된 재범 예측률의 영향을 떨쳐버리기는 쉽지 않다. 인간의 사고가 처음 본 기억에 묶여 멀리 나아가지 못하는 '정박 효과'(Anchoring Effect) 때문이다. 한애라 성균관대 법학전문대학원 교수는 "사람 판사가 최종 결정을 하고 AI는 보조 도구로만 쓰도록 시스템을 아무리 정교하게 만들었다고 해도 실제 판사가 독립적인 판단을 했는지는 알 수 없는 일"이라고 꼬집었다.

시대 상황을 반영해 법원이 전향적 판결을 하거나 기존 판례를 변경해야 하는 경우도 있는데, 과거 데이터에만 의존하는 AI는 오히려 천편일률적인 판결만 재생산할 수 있다. 정채연 포항공대 인문사회학부 교수는 "기존에 축적된 판례의 일반적인 결론에 의존하게 되면, 판결의 정량적 분석이 정성적 분석에 비해 지나치게 중요하게 고려될 수 있다"고 설명했다.

한국에서는 "사람 판사 대신 AI 판사에게 재판을 받겠다"고 응답한 비율이 48%에 달하는 조사가 있을 정도로 법원 판결에 대한 불신이 강하다. 사법 영역에 AI 기술을 활용하는 방안이 법원 내부적으로 검토되고 있으나, 일부 국민들 바람처럼 법관의 판단을 대신하는 수준까지 진전되지는 않고 있다. 법원행정처 차세대전자소송추진단에 따르면 대법원은 △빅데이터 기반 유사 판결문 제공 서비스(법관 대상) △소송 절차 진행 중 문의사항을 질문하는 인공지능 챗봇(소송 당사자 대상) △전화가 아닌 챗봇으로 질문하고 답하는 유저헬프데스크(민원인 대상)를 내년 상반기에 공개할 예정이다. 법원행정처 관계자는 "AI가 판결을 대체하는 기술 도입은 사실상 불가능하다고 본다"며 "최근 AI 기술이 고도화되면서 AI 기술이 재판 업무를 지원하거나 보조하는 역할을 하는 방향에 대해서도 검토할 것"이라고 설명했다.

▶AI 면접관 앞에 선 인간... 알고리즘은 운명을 가르는 ‘권력자’

https://www.hankookilbo.com/News/Read/A2023041117060004881

▶'김치~' 미소론 어림 없어... AI 면접관은 조커의 웃음을 원한다

https://www.hankookilbo.com/News/Read/A2023041410060000321

▶"혈연·지연·학연 없는 AI 면접관, 사람보다 공정할 수 있죠"

https://www.hankookilbo.com/News/Read/A2023041213110005027

▶"아직 설익은 AI, 약자인 취준생을 베타테스트 하고 있다"

https://www.hankookilbo.com/News/Read/A2023041214200000795

글 싣는 순서
<AI 시대의 윤리학>

①운명을 좌우하는 ‘권력자 AI’
②인생을 지배하는 ‘절대자 AI’
③인간과 공존하는 ‘동반자 AI’

이현주 기자 memory@hankookilbo.com
최동순 기자 dosool@hankookilbo.com
윤현종 기자 belly@hankookilbo.com
이승엽 기자 sylee@hankookilbo.com