英기차역 AI카메라, “승객 ‘감정 정보’까지 수집했다”

시민단체 정보 공개 청구로 밝혀져
승객 연령대, 성별과 감정까지 분석
범죄 예방 순기능 있기도

기사의 이해를 돕기 위한 이미지. 기사 내용과 직접 관련이 없습니다. 영국 런던의 워털루 기차역. 연합뉴스

영국 주요 기차역에서 인공지능(AI) 카메라를 이용해 철도 승객의 연령대나 성별 뿐 아니라 감정에 관련된 정보를 수집했다는 사실이 밝혀져 논란이 일고 있다고 현지 매체가 보도했다.

영국 일간 더타임스와 데일리메일은 19일(현지시간) 철도 공기업 ‘네트워크 레일’이 2022년부터 런던 워털루·유스턴역, 맨체스터 피카딜리역, 리즈역, 글래스고역, 레딩역 등지에서 AI 카메라 시스템을 시범 운영하고 있었다고 보도했다.

해당 역은 무단침입이나 과밀, 절도 등 안전 문제 개선, 고객 서비스 향상, 광고 수입 증대 등을 목적으로 개찰구에 5~7대의 카메라를 설치했다. 촬영한 이미지는 아마존 인식 소프트웨어로 전송했다.

문제는 이를 통해 촬영한 승객의 연령대와 성별뿐 아니라 행복과 슬픔, 배고픔 등의 감정까지 분석했다는 점이다. 감정 분석은 운영 초기에만 이뤄졌지만, 이 사실이 드러나면서 개인정보 침해 등 논란이 불거졌다.

네트워크 레일은 이 시스템을 도입하면서 관련 공지를 명확히 하지 않은 것으로 나타났다. 시스템 관련 언급이 된 것은 웹사이트에 올려진 사생활 보호 공지가 유일한데, 이 공지에는 “2022년부터 다수 역에서 분석 능력이 있는 카메라 시스템을 시범 운영할 것”이라는 내용만 담겨 있었다.

이 같은 사실은 시민단체 빅브러더워치(BBW)의 정보 공개 청구로 드러났다. BBW는 AI 기반 감시가 개인 정보를 위험에 빠뜨릴 수 있으며 네트워크 레일이 인권를 침해했다고 비판했다.

BBW 연구조사 총괄 제이크 허트퍼트는 “투명성 부족과 AI를 사용한 감시의 일상화라는 측면에서 우려된다”며 “AI 감시를 오남용할 시 사생활을 위험에 빠뜨릴 수 있다”고 우려했다.

BBW는 정보보호 당국인 정보위원회(ICO)에 해당 사안을 조사해달라고 요청했다.

앞서 ICO는 AI 감시 기술이 미성숙하다는 경고를 내놓은 바 있다. ICO 부국장 스티븐 보너는 “생체 인식 및 감정 AI 시장은 아직 미성숙하다”며 “데이터의 잘못된 분석이 부정확한 판단을 초래해 차별로 이어질 수 있다는 점을 우려하고 있다”고 말했다.

네트워크 레일 측은 해당 시스템의 애초 목적은 승객의 안전한 경험을 위한 것이라고 해명했다. 협력업체 퍼플 트랜스폼의 그레고리 버틀러 대표는 “감정과 인구학적 분석은 얼마 지속하지 못했다”며 “승객에게 안전한 경험을 제공하려는 원래의 목적과 부합하지 않았기 때문이다”라고 해명했다.

실제 기차역에 설치된 AI 카메라 시스템에 범죄 예방 순기능은 있었던 것으로 나타났다. 자전거 절도가 빈번하게 일어났던 레딩역에서는 2022년 카메라 시스템 설치 이후 1년 만에 절도 건수가 72% 급감하기도 했다.

김효빈 인턴기자 onlinenews1@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지