AI 얼굴인식 오류로 '아동 유인범' 몰린 美 50대, 경찰 상대 소송

“알고리즘 93% 일치” 결과만 믿고 무리한 체포
발생지 480km 떨어진 곳 거주… “가본 적도 없어”

기사와 직접적 연관 없음. 사진=게티이미지뱅크

인공지능(AI) 얼굴 인식 소프트웨어의 오류로 인해 무고한 시민이 아동 유인 미수범으로 몰려 부당하게 체포되는 사건이 발생했다. 피해 남성은 경찰이 정확한 검증 없이 기술에만 의존해 부실 수사를 벌였다며 법 집행 기관들을 상대로 법적 대응에 나섰다.

10일(현지시간) 가디언 등 외신에 따르면, 미국 플로리다주에 거주하는 로버트 딜런(52)은 최근 미국시민자유연맹(ACLU)을 통해 플로리다주 포트마이어스 지방법원에 잭슨빌 비치 경찰서와 피넬라스 카운티 보안관 사무소 등을 상대로 손해배상 청구 소송을 제기했다.

문제의 사건은 지난 2024년 8월 플로리다주 잭슨빌 비치의 한 맥도날드 매장에서 발생했다.

당시 한 남성이 12세 미만의 여아를 유인하려다 도주하는 사건이 벌어지자 수사에 착수한 잭슨빌 비치 경찰은 피넬라스 카운티 보안관실이 운영하는 얼굴 분석·비교 시스템인 '페이스(Faces)'를 활용했다. 경찰은 매장 보안카메라에 포착된 용의자의 얼굴을 AI로 분석했고, 그 결과 딜런과 일치할 확률이 93%라는 결과를 얻었다.

경찰은 이 알고리즘 결과만을 근거로 사건 발생지에서 무려 480km 떨어진 포트마이어스 자택에서 아내와 함께 있던 딜런을 전격 체포했다. 딜런은 수사 과정에서 “평생 잭슨빌 비치에 가본 적도 없다”며 억울함을 호소했으나 허술한 조사와 경찰의 증거 누락으로 인해 수개월간 아동 성범죄 용의자라는 누명을 써야 했다.

이후 진행된 조사에 따르면, 담당 수사관인 스콧 오코넬은 딜런의 무죄를 입증할 명백한 증거들을 체포 진술서에서 고의로 누락한 것으로 드러났다. 당시 차량 번호판 판독 결과 딜런의 차량은 해당 매장 인근에 있었던 적이 없다는 사실이 이미 확인된 상태였다. 또한 오코넬 수사관은 영장을 발부한 판사에게 AI 분석에 사용된 이미지가 고화질 디지털 원본이 아닌, 경찰관이 개인 휴대전화로 저화질 보안 화면을 촬영한 사진이라는 사실을 숨기기도 했다.

또한 맥도날드 직원이 여러 용의자 사진 중 딜런을 향해 “최근 몇 주간 매장을 찾은 단골손님”이라고 진술했는데, 경찰은 딜런이 수백 마일 떨어진 곳에 거주해 물리적으로 단골이 될 수 없다는 모순을 알고서도 기소를 강행한 것으로 밝혀졌다.

검찰은 결국 지난해가 돼서야 사건의 심각한 오류를 인지하고 딜런에 대한 혐의를 취하 및 기각했다. 하지만 딜런이 입은 정신적·사회적 타격은 회복 불가능한 수준이다.

딜런은 “아동 유인 미수라는 끔찍한 혐의로 체포되면서 사회적 낙인이 찍혔고, 혐의가 벗겨진 지금까지도 온라인에 머그샷(범인 식별용 사진)이 돌아다녀 고통받고 있다”며 “경찰이 제 역할을 하는 대신 위험한 기술에만 의존해 무고한 시민의 삶을 망가뜨렸다”고 분통을 터뜨렸다. 현재까지 관련 기관 중 어느 곳도 그에게 사과하지 않은 것으로 알려졌다.

소송을 도운 ACLU 측은 “이번 사건은 미국 전역에서 AI 얼굴 인식 오류로 인해 부당하게 기소되거나 체포된 최소 15번째 사례”라며 “신뢰할 수 없는 기술의 남용에 대해 끝까지 책임을 물을 것”이라고 밝혔다.

한편 최근 노스캐롤라이나주에서도 자동 얼굴 인식 오류로 무고한 시민이 차량 절도범으로 몰려 3개월간 구금됐다 풀려나는 사건이 발생한 바 있다. 이에 기술 발전 속도를 따라가지 못하는 법 집행 기관의 AI 남용을 규제해야 한다는 목소리가 고조되고 있다.

서희원 기자 shw@etnews.com