생사람 잡은 AI 기술 오류...美 남성 절도범 누명

범인과 비슷하다고 오류판단...구치소서 6일
AI안면인식 기술, 보조적으로만 활용 돼야

[이데일리 김성진 기자] 인공지능(AI) 기반의 안면인식 기술이 오류를 일으키는 바람에 경찰이 무고한 한 남성을 절도범으로 간주하고 체포하는 일이 미국에서 벌어졌다. 인류 역사를 송두리째 바꿀 기술로 주목받는 AI의 위험성이 드러난 사건이라는 지적이 나온다.

31일 미국 뉴욕타임즈(NYT)에 따르면 조지아주에 거주하는 랜들 리드(29)는 지난해 11월 애틀랜타에 사는 부모님 집으로 차를 몰고 가던 중 고속도로 한복판에서 경찰에 체포됐다.

AI 카메라 이미지.

경찰은 리드를 절도범으로 간주하고 수갑을 채웠다. 지난 여름 루이지애나주 뉴올리언스의 한 상점에서 훔친 신용카드로 1만3000달러(약 1703만원) 상당의 명품 지갑과 가방을 구입했다는 혐의였다.

경찰은 리드의 모습이 범인의 모습과 유사하다고 보고 유력 용의자로 특정했다. 범인이 범행을 저지를 당시 상점 내 감시카메라에 찍힌 범인의 얼굴을 AI 안면인식 기술로 분석한 것이 리드의 외모와 비슷했기 때문이다. 안면인식 프로그램은 페이스북, 링크드인 등 SNS에 게재된 리드의 사진과 감시카메라 속 범인의 얼굴을 유사하다고 판단했다.

구치소에 갇힌 리드는 변호사를 통해 절도 피해를 당한 가게의 CCTV 영상을 직접 확인하고 나서야 풀려날 수 있었다. 경찰은 리드 측 변호사가 관련 자료를 제출한 지 약 한시간 만에 그를 석방했다.

무려 6일 만에 풀려난 리드는 “전혀 알지도 못하는 일로 갇혀 있었다”고 말했다. 그는 경찰을 상대로 부당하게 체포된 데 따른 피해에 대해 소송을 제기할 것으로 알려졌다.

NYT는 이번 사건이 아직은 완벽하지 않은 AI기술의 단점을 보여준다고 지적했다. 범죄자 추적에 도움을 주기 위해 개발됐지만 오히려 선량한 사람에게 피해가 발생했기 때문이다.

미국 안면인식 기술 업체 클리어뷰 AI의 대표인 호안 톤 댓은 이 기술은 어디까지나 보조적 역할을 하는데 머물러야 한다고 조언했다.

김성진 (jini@edaily.co.kr)