"도둑질한 적 없는데"…英 여성, AI 안면인식 오류 탓에 도둑 몰려[통신원One]

안면 인식 기술 탑재된 CCTV가 여성 손님 '절도범' 오인 알람
경찰도 안면 인식 시스템 오류로 죄 없는 흑인 남성 20분 구금

(런던=뉴스1) 조아현 통신원 = 영국에서 소매업체마다 절도 범죄를 예방하기 위해 인공지능을 기반으로 한 안면 인식 폐쇄회로(CC)TV를 설치하는 사례가 늘어나는 가운데 시스템 오류로 인해 무고한 고객이 범죄자로 몰려 가방 수색을 당하고 쫓겨나는 일이 벌어졌다.

27일(현지시간) 시민단체 빅브라더 와치(Big Brother Watch)와 BBC 방송 등에 따르면 익명을 요청한 영국인 사라(가명)는 초콜릿을 사러 가게에 들어갔다가 봉변을 당했다.

가게 출입문을 통과한 지 1분도 채 되지 않았을 무렵 직원은 사라에게 다가와 "당신은 도둑이니 매장에서 나가라"고 말했다. 사라는 곧바로 가방을 수색당했고 매장 밖으로 끌려 나왔다.

또한 안면 인식 보안 시스템 '페이스워치(Facewatch)'가 설치된 모든 매장에 출입이 금지됐을 것이라는 말을 들었다.

사라는 집으로 돌아오는 내내 울었다. 그는 "'이제 내 삶이 예전 같지 않겠구나' '가게에서 도둑질한 적도 없는데 앞으로 계속 도둑으로 취급받게 되겠구나'라는 생각이 들었다"고 말했다.

페이스워치 측은 나중에 사라에게 자신들이 개발한 시스템에 오류가 있었음을 인정했다.

인공지능을 기반으로 한 안면 인식 시스템을 보유하고 있는 영국의 보안기술 업체 페이스 워치는 대형 소매업체부터 경기장, 공항, 호텔, 자영업체 등 다양한 공간에서 범죄 예방 목적으로 해당 시스템을 활용할 수 있다고 소개한다.

실제로 현재 영국에 있는 대형 슈퍼마켓 체인인 스파(Spar), 스포츠 용품점인 스포츠다이렉트(SD), 식료품 체인인 버겐스(Budgens) 등이 페이스워치에서 제공하는 보안 기술을 매장에서 사용하고 있다.

경찰 차량에 설치된 안면 인식 감시 시스템이 길을 가던 무고한 시민을 수배 대상자로 지목하면서 엉뚱한 사람이 취조당하는 사례도 나왔다.

지역사회 활동가로 일하는 션 톰슨은 지난 2월 런던브릿지 근처를 지나다 경찰에게 붙잡혀 검문을 당했다. 경찰로부터 자신이 수배자라는 이야기를 듣게 됐다.

톰슨은 당황하면서도 불쾌감을 느꼈지만 어쩔 수 없이 경찰의 지시에 따라야 했다.

그는 지문을 채취당하고 20분 동안 구금됐다. 여권 사본을 넘겨준 후에야 풀려났다고 톰슨은 설명했다.

이 또한 경찰이 사용하는 안면 인식 대중 감시 시스템이 톰슨의 신원을 잘못 인지한 사례였다.

빅브라더워치에 따르면 경찰에 얼굴이 스캔 된 사람은 누구나 경찰의 데이터 베이스로 저장돼 범죄자 식별 절차의 일부가 된다.

문제는 영국 경찰의 안면 인식 기술 사용이 급속도로 증가하는 추세라는 것이다.

런던 메트로폴리탄 경찰은 지난 2020년부터 2022년까지 3년 동안 9차례에 걸쳐 차량에 탑재한 실시간 안면 인식 카메라를 이용해 행인들을 감시하는 단속을 벌였다.

하지만 2023년에는 23차례, 올해는 이미 67차례나 시행했을 정도로 안면 인식 카메라를 이용한 단속이 빠르게 늘어나는 중이라고 BBC는 전했다.

경찰은 안면인식 감시 카메라 앞을 지나가는 시민 가운데 3만3000명당 한 명 꼴로 오인하는 경우가 발생하는 데 이는 드문 사례라고 주장한다.

지능형 감시 시스템에 반대하는 시민단체 빅브라더 워치의 실키 카를로 대표는 "지난 수년 동안 실시간 안면 인식 기술을 추적해 온 경험에 따르면 대부분의 일반인은 안면 인식 기술이 무엇인지조차 잘 모른다"고 말했다.

그러면서 "자기 얼굴이 수배자의 얼굴과 일치한다는 알람이 울리면 경찰이 출동해 구금하고 심문하면서 무죄를 입증하라고 요구할 수 있다"고 경고했다.

전문가들은 인공지능을 이용한 대중 감시 기술의 발전 속도를 현행법이 따라잡지 못한다고 우려한다.

데이터와 인공지능을 연구하는 에이다 러브레이스 연구소의 마이클 버트휘슬 법률정책 부국장은 BBC와의 인터뷰를 통해 "현재로서는 완전히 무법지대 상태"라며 "안면 인식 기술 사용이 불법인지 아닌지에 대한 법적 불확실성이 존재한다"고 말했다.

tigeraugen.cho@gmail.com

국제