멀쩡한 손님인데 "좀도둑"…AI의 어거지 신고였다

AI를 활용해 제작된 이미지

미국 약국체인인 라이트 에이드(Rite Aid) 매장을 찾았던 11살 여자아이가 갑자기 좀도둑으로 몰렸다. 아무 잘못이 없는데 도둑으로 오인을 받은 이 아이는 매장 직원들과 출동한 경찰들에게 자신의 무고함을 증명해야 했다. 이 아이를 좀도둑으로 신고한 것은 다름 아닌 AI(인공지능)였다.

미국 소매기업들이 좀도둑들과 전쟁을 벌이는 가운데, 이를 막기 위해 설치한 AI 얼굴인식 시스템이 멀쩡한 손님을 잇따라 도둑으로 모는 사례가 벌어지고 있다.

22일(현지시간) 워싱턴포스트, USA투데이 등에 따르면, 라이트 에이드는 매장 내 도난 방지를 위해 AI 안면인식 기술을 사용했는데, 정확도가 떨어지는 기술이 수천건에 달하는 잘못된 판단을 해서 무고한 고객들을 도둑으로 몰았다. 특히 이 회사는 인종차별적인 방법으로 기술을 사용해 주로 유색인종을 겨냥한 것으로 드러났다.

FTC(미 연방통신위원회)에 따르면 라이트 에이드는 2012년부터 2020년까지 수상해 보이는 행동을 하는 좀도둑을 잡기 위해 AI 안면인식 기술을 사용했다. 그런데 이 기술은 흑인, 히스패닉, 여성, 어린이 고객을 주로 표적으로 삼았고, 대부분 백인 주거지역이 아닌 지역에 설치됐다.

그렇다 보니 백인이 아닌 여성들이 주로 오인 신고의 대상이 됐다. 매장에서 도둑 취급을 당한 11세 여자아이는 정신적 충격으로 학교생활에도 지장을 겪은 것으로 전해졌다.

FTC는 이 기술을 사용한 라이트 에이드에 다른 처벌과 함께 향후 5년간 이런 기술을 쓰지 못하도록 금지시켰다.

FTC 소비자보호국 사무엘 레빈 국장은 성명에서 "라이트 에이드의 무분별한 안면감시 시스템 사용으로 인해 고객이 수치심과 기타 피해를 입었고 소비자의 민감한 개인정보가 침해될 위험에 처했다"면서 "부당한 생체인식 감시와 불공정한 데이터 처리 관행으로부터 대중을 보호하기 위한 노력을 이어가겠다"고 밝혔다.

라이 트에이드 측은 이와 관련해 FTC의 판결을 준수할 것이라고 밝히면서 이 기술이 일부 매장에서 파일럿 프로그램 형태로 시도됐다고 설명했다. 안경애기자 naturean@dt.co.kr