“나도 모르게 내 기분을 알아내다니”…승객 정보 무단 수집한 ‘이 회사’ 논란

英 철도 공기업, 승객 감정·기분 수집
사전 동의없이 AI 카메라로 정보 빼내
연령·성별은 물론 허기 여부까지 파악
광고주들에게 ‘사적 정보’ 전달 가능성
시민단체 “인권 침해 소지 있다” 비판

영국 런던 워털루역 전경. [사진=네트워크 레일 홈페이지]

영국 철도 공기업이 주요 기차역에서 AI(인공지능) 카메라 시스템으로 승객의 감정이나 기분과 관련한 정보를 수집했다는 폭로가 나왔다. 광고주들에게 시민의 사적인 데이터가 동의 없이 제공됐을 가능성 때문에 인권 침해라는 지적이 나온다.

19일(현지시간) 영국 일간 더 타임스는 영국의 철도 공기업인 ‘네트워크 레일’이 지난 2022년부터 런던 워털루역, 런던 유스턴역, 맨체스터 피카딜리역, 레딩역 등에서 운영한 AI 카메라 시스템을 통해 승객의 인구 통계 특성과 감정 정보를 수집했다고 보도했다.

이같은 사실은 영국의 시민단체 빅브러더워치(BBW)의 폭로로 인해 알려졌다. BBW는 정보 공개 청구를 통해 이를 인지하고 보고서를 작성했다. 영국 정보보호 당국인 정보위원회(ICO)에 해당 사안을 조사해달라고도 요청한 상태다.

네트워크 레일에 따르면 AI 카메라는 무단 침입이나 절도, 승객 과밀 등 문제를 개선하고 서비스 질 향상, 광고 수입 증대 목적으로 개찰구에 5~7대 설치됐다.

문제는 운영 초기에 네트워크 레일이 승객의 연령대와 성별, 나아가 허기를 느끼는지, 기쁜지 슬픈지 등 감정과 기분까지 파악했다는 점이다. 사용된 AI 분석 도구는 아마존의 인식 소프트웨어로 알려졌다.

AI 카메라 시스템을 구축한 협력 업체측은 인구 통계 분석과 감정 분석은 승객에게 안전한 철도 서비스 이용 경험을 제공한다는 기존 목적과 부합하지 않는다는 점을 인지하고 조기에 중단했다고 밝혔다.

게다가 승객의 감정 데이터까지 수집하는 데도 구체적인 공지가 없었다. 네트워크 레일이 기분까지 파악했다는 이번 폭로를 주도한 시민단체 빅브러더워치(BBW)에 따르면 네트워크 레일은 웹사이트에 “다수 역에서 분석 능력이 있는 카메라 시스템을 시범 운영한다”는 안내만 올렸다.

승객 개인에 대한 광범위한 데이터가 수집될 예정이라는 등 양해를 구하는 내용조차 없었다는 의미다.

시민단체나 인권 전문가들은 철도 회사가 승객의 동의 없이 인구 통계 특성과 감정 정보를 수집한 데에는 인권 침해 소지가 있다고 지적하고 있다.

BBW는 “감정 인식 기술이 적용되는지 모르는 통근자들에게 무단으로 정보를 취했다”며 “특히 인구 정보와 감정 정보를 광고주에게 전달할 수 있도록 한 점은 더 큰 문제”라고 밝혔다.

AI가 점점 더 많은 사회 시스템 유지에 활용되고 있는 추세라 이번 논란이 주목받는다. 제이크 허트퍼트 BBW 연구조사 총괄은 “투명성 부족과 AI를 사용한 감시의 일상화라는 측면에서 우려된다”며 “AI 감시는 오남용 시 사생활을 위험에 빠뜨릴 수 있다”고 말했다.