중국서 기소까지 하는 인공지능 검사 등장

중 상하이 검찰청 개발..8가지 범죄에 적용
1만7천건 사례로 훈련.."기소 정확도 97%"

중국에서 기소 여부를 결정하는 인공지능 검사 소프트웨어가 개발됐다. 픽사베이

정확하고 공정한 판단을 요구하는 사법 영역에서도 인공지능의 활동 영역이 갈수록 넓어지고 있다. 인간의 판단에 대한 불신과 공정성에 대한 높은 기대, 효율적인 일 처리의 필요성은 사법분야의 인공지능 도입을 촉진하는 주된 요인들이다.

인공지능 변호사, 판사에 이어 인공지능 검사도 등장할 전망이다.

중국 사법당국이 신문조서에 기반해 스스로 범죄 용의자의 기소 여부를 결정할 수 있는 인공지능을 개발했다. 인공지능은 이미 많은 나라의 사법 기관에서 활용되고 있지만 기소에까지 관여하는 인공지능은 처음이다.

‘사우스차이나모닝포스트’(South China Morning Post) 보도에 따르면 중국 최대 규모의 지방검찰인 상하이 푸둥 인민검찰청(Shanghai Pudong People's Procratorate)에서 개발한 이 인공지능 검사는 일부 범죄에 대해 기소 여부를 결정할 수 있다. 이를 위해 2015~2020년 사이에 일어난 1만7천건의 실제 사건 사례로 훈련을 했다.이번 프로젝트를 맡은 중국과학원 빅데이터 및 지식관리연구소는 이 인공지능을 개발한 것은 검사들의 과중한 업무 부담을 줄여주고 검사들이 좀 더 중요한 업무에 집중할 수 있도록 돕기 위해서라고 설명했다. 연구진은 중국 국내 학술지 ‘매니지먼트 리뷰’(Management Review)에 발표한 논문에서 “인공지능 검사는 범죄 혐의에 대한 진술을 토대로 97% 이상의 정확도로 기소할 수 있다”며 “따라서 의사결정 과정에서 검사를 일정한 정도 대체할 수 있다”고 주장했다.

그러나 기소 여부를 기계적으로 적용하게 되면 인권에 대한 고려를 등한시할 가능성이 우려된다. 인공지능의 장점은 많은 데이터를 단번에 습득해 분석할 수 있는 데 있지만, 생성된 데이터 자체에 인간의 편향이 개입돼 있는 경우가 많다.

상하이 검찰은 인공지능 기소 시스템은 검사들의 과중한 업무량을 줄여주기 위한 것이라고 밝혔다. 픽사베이

인공지능 검사가 던지는 질문은?

이번에 개발된 전자 기소 시스템은 2016년부터 사용해 온 ‘시스템 206’(System 206)이라는 이름의 기존 인공지능 도구를 기반으로 만들어졌다. 중국 검찰은 증거를 평가하고 범죄 용의자의 잠재적 위험을 판단하는 데 이 시스템을 참고용으로 이용해 왔다. 그러나 기소·구형 등 의사결정 단계에서는 이 시스템을 활용할 수가 없었다.

그러기 위해선 해당 사건과 관련없는 정보를 가려내고, 복잡한 사람의 언어도 처리할 수 있어야 한다. 그러나 이를 위해선 대형 컴퓨터가 필요한 것이 걸림돌이 됐다.

이번에 개발된 새로운 인공지능 도구는 일반 데스크톱 컴퓨터에서도 이런 능력을 발휘할 수 있을 정도로 간편해졌다. 각 검사실에서 쓸 수 있게 데이터 처리 방법이 손쉬워진 셈이다. 이 인공지능 검사는 과거 사건에서 1000가지의 특징을 추출하고, 이에 기반해 기소 여부를 결정한다.

검찰 당국이 새 인공지능에 부여한 기소 권한은 상하이에서 가장 빈번하게 일어나는 8가지 범죄다. 그런데 8가지 범죄 중엔 신용카드 사기, 도박, 난폭 운전, 고의 상해, 공무집행 방해, 절도, 사기와 함께 반체제 언행 단속에 악용될 수 있는 ‘소란유발’(picking quarrels and causing trouble)도 포함돼 있어 눈길을 끈다.

중국 검찰 당국은 이 인공지능이 앞으로 더 많은 유형의 범죄를 식별하고 1명의 용의자에게 여러 혐의도 적용할 수 있도록 성능을 개선할 계획이라고 밝혔다.

인공지능 검사의 출현은 여러 가지 질문을 던진다.

사람을 구속하는 권한을 컴퓨터에 맡겨도 될까? 인공지능 기소 시스템이 오류를 일으킬 경우 그 책임은 누가 져야 할까? 검사인가, 인공지능인가, 알고리즘 설계자인가? 훈련받은 과거 사건 데이터를 근거로, 현재의 달라진 환경에서 벌어진 사건을 처리하는 게 온당한가? 검사들은 자신의 업무 영역 축소를 받아들일 각오가 돼 있을까?

아직 초기 단계에 있는 지금이야말로 바로 이런 질문에 대한 합의된 답변을 끌어낼 적기다. 한 검사는 ‘사우스차이나모닝포스트’에 “인공지능은 실수를 가려내는 데는 도움이 될 수 있지만, 결정을 내리는 데서 인간을 대체할 수는 없다”고 말했다.

인권 침해에 대한 우려에도 불구하고 중국은 효율 개선, 부패 감소 등을 명분으로 인공지능을 적용하는 분야를 계속해서 넓혀가고 있다. 법원에선 항소를 받아들일지 결정하는 데, 교도소에선 수감자의 신체·정신 건강 상태를 추적하는 데 인공지능을 활용하고 있다. 인공지능 검사의 탄생은 그런 작업의 최신판이다.

곽노필 선임기자 nopil@hani.co.kr