[손병채의 센스메이킹] 〈57〉혁신과 우려 사이, 2024 파리 올림픽 AI 감시 시스템

손병채 ROC(Reason of creativity) 대표

“우리가 하는 일은 CCTV 카메라를 강력한 모니터링 도구로 바꾸는 것입니다.” 2024 파리 올림픽 기간 도시 내 CCTV 시스템에 인공지능(AI) 알고리즘을 도입하는 계약을 따낸 4개 프랑스 기업 중 하나인 윈틱스(Wintics)의 공동 창업자 마티아스 훌리에(Matthias Houllier)는 경찰관이 수천대의 카메라에 일일이 대응하는 것은 불가능하다는 점을 강조한 바 있다.

이 같은 기술 도입을 정당화시킨 2023년에 통과된 관련 프랑스 법안은 비정상적인 사건이나 사람의 행동을 감지하기 위해 올림픽 기간 동안 시범적으로 AI 비디오 감시를 사용할 수 있도록 허용했다. 이 법에 따르면 대회 기간 동안 AI 감시 소프트웨어(SW)는 군중 급증, 비정상적으로 많은 군중, 버려진 물건, 무기 소지 또는 사용, 지상에 사람이 있는 경우, 화재 발생, 교통 방향 규칙 위반 등 8가지 '이벤트'를 감지할 수 있다. 이러한 시스템은 인간 운영자에게 경고를 보내고, 운영자가 적절한 조치를 결정하도록 돕는다. 이는 2022년 카타르 월드컵에서 논란이 되었던 안면 인식 시스템을 향한 프라이버시 친화적 대안이라는 점에서 안전과 개인의 자유 사이의 균형을 맞추기 위한 시도로 해석될 수 있다.

하지만 윈틱스의 시스템이 얼굴 인식이나 개인 데이터 분석을 포함하지 않는다 하더라도, 시각적 데이터로 처리된다는 점에서 그 자체로 침해로 여겨질 수 있다. 즉, 얼굴 인식 없이 운영이 되는 시스템이라 하더라도, 공공장소에서 사람들을 추적하고 분석하는 기술은 프라이버시 침해로 이어질 가능성이 있음은 변함없는 사실이기 때문이다. 실제로 파리의 프라이버시 운동가들은 '알고리즘 감시' '공공장소에서의 권위주의적 캡처' 등의 디스토피아적인 용어들을 내세우며 사람의 이미지를 분석한다는 점에서 여전히 얼굴 인식과 동일한 원리의 기술이라 주장한다. 하지만 이보다 더 많은 기술적 적용이 올림픽 이후의 도시민들의 생활에 영향을 끼칠 수 있는 요소는 따로 있다. 바로 올림픽의 사회 문화적 영향력이다.

역사적으로 올림픽과 같은 메가 이벤트는 새로운 기술과 인프라 프로젝트의 시험장이 되어 왔다. 호주 퀸즐랜드대(UQ) 비즈니스 스쿨의 부교수 주디스 메이어(Judith Mair)는 저서 '메가이벤트의 소셜 임팩트'(Social Impacts of Mega-Events)를 통해 메가 이벤트는 종종 도시의 인프라와 기술 발전을 가속화하며, 이는 장기적으로 도시민의 삶에 영향을 줄 수 있음을 지적한 바 있다. 특히 올림픽과 같은 메가 이벤트는 주민들의 공동체 의식을 강화하고, 문화적 자부심을 고취시키며, 다양한 사회적 그룹 간의 연결을 촉진할 수 있는 기회를 제공하나 동시에, 기존의 사회적 구조를 위협하거나, 특정 그룹이 배제되는 부정적 결과를 초래할 수도 있다고 주장한다.

이러한 분석은 AI 기술이 일시적으로 안전을 강화하는 데 기여할 수 있지만, 그 후에도 지속적으로 도시의 사회적 환경에 영향을 미칠 수 있는 잠재력이 있음을 시사해 AI 알고리즘 감시를 우려하는 프라이버시 운동가들의 주장에 힘을 실어주는 면이 있다. 영국의 경우, 2012 런던 올림픽에서 도입된 일부 감시 기술이 이후에도 계속 사용되었다. 이는 올림픽 이후 기술의 지속적 사용에 대한 우려가 근거 없는 것이 아님을 보여준다.

윈틱스가 개발한AI 알고리즘 SW는 파리 지역과 대중교통에 배치될 예정이며 이후 국가 및 지방 경찰, 소방관, 대중교통 보안 요원 모두가 AI 기반 감시 기능을 이용할 수 있게 된다고 한다. 올림픽이 끝나고 선수들이 프랑스를 떠난 후에도 AI 감시 시스템이 프랑스에 남아있을 것을 고려하면, 프라이버시와 자유에 대한 우려는 단순히 일시적인 문제가 아니다. 이는 사회적 통제와 개인의 권리에 대한 장기적인 영향을 미칠 수 있으며, 이러한 기술의 남용 가능성에 대한 경계가 필요하다. 올림픽과 같은 메가 이벤트는 새로운 기술을 실험하고 테스트하는 장이지만, 그 결과가 사회에 미칠 영향은 신중하게 고려되어야 한다. 따라서 시민의 권리를 보호하고 기술 발전의 혜택을 공평하게 나누기 위한 정책적, 법적 프레임워크의 확립이 필수적이다. 이런 맥락에서 2024 파리 올림픽은 AI 기반 감시 기술이 도시의 사회적 구조와 개인의 권리에 미치는 영향을 잘 보여주는 중요한 사례가 될 것이다. 이는 기술이 사회적, 경제적, 문화적 변화를 가져오는 긍정적인 힘이 되도록 조정해 나가는 데 있어 필수적인 관찰 요소라 할 수 있겠다.

손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com