[99.9MHz] 범죄 예방인가, 시민 감시인가? ... AI와 정보인권 4편
공항을 이용하거나 지하철역을 지날 때, 나의 얼굴과 동선이 실시간으로 분석되고 추적된다면 우리 사회는 더 안전해질까, 아니면 거대한 감옥이 될까?
최근 범죄 예방과 행정 편의를 명목으로 공공장소에 인공지능(AI) 기술이 깊숙이 들어오면서, 시민들의 '정보 인권'을 둘러싼 논쟁이 뜨겁게 달아오르고 있다.
지난 1일 방송된 OBS 라디오 <굿모닝OBS> 특별기회 'AI와 정보인권'에서는 정보인권연구소 장여경 상임이사와 인권운동공간 활의 랑희 활동가가 출연해 공공 AI 기술이 시민의 일상에 미치는 영향과 인권 침해의 위험성을 심도 있게 짚었다.
■ "나도 모르는 사이 수집되는 생체 정보"… 잊혀진 동의권
현재 일부 지자체와 경찰은 실종 아동 찾기나 이상 행동 감지 등을 목적으로 공공장소에 얼굴 인식 및 동작 인식 기술을 도입하고 있다. 문제는 이러한 기술이 평범한 시민들을 상시적인 감시 대상으로 전락시킬 수 있다는 점이다.
장여경 이사는 과거 부천시의 사례를 언급했다. 2021년 부천시는 코로나19 확진자의 동선을 CCTV로 실시간 추적하는 시스템을 개발하려다 외신으로부터 '심각한 감시'라는 비판을 받고 포기한 바 있다.
또한, 법무부가 출입국 심사 과정에서 수집한 내·외국인 1억 7천만 건의 안면 데이터를 당사자 동의 없이 민간 업체에 인공지능 학습용으로 제공한 사실이 드러나 큰 파장이 일기도 했다.
랑희 활동가는 CCTV 밀도가 세계 최고 수준인 서울에서, 이제는 단순히 찍는 것을 넘어 누구인지 식별하고 행동을 분석하는 단계까지 왔다며 "안양시의 공중화장실 AI 성별 인식 시도처럼 범죄 예방이라는 선의를 내세우더라도 동의 없는 생체 정보 수집은 시민들에게 심각한 불쾌감과 위축 효과를 준다"고 지적했다.
■ 군·경의 무분별한 CCTV 접속… "민주주의 위축 우려"
최근 발생한 정치적 사건들 속에서도 CCTV 관제 시스템의 허점이 드러났다. 지난 비상계엄 선포 당시 군이 서울시 CCTV 시스템에 접속해 수백 회 이상 열람했다는 사실이 밝혀지며, 공공의 안전을 위해 설치된 장비가 언제든 국가 권력의 감시 도구로 변할 수 있다는 공포가 현실화됐다.
특히 집회나 시위 현장에서의 AI 감시는 더욱 치명적이다. 과거 경찰이 교통관제용 CCTV를 집회 참가자 채증에 활용해 비판받았던 사례처럼, 실시간 얼굴 인식 기술이 집회 현장에 도입될 경우 시민들의 표현의 자유가 심각하게 위축될 수밖에 없다는 것이 전문가들의 공통된 견해다.
독일 연방헌법재판소는 이미 공권력의 CCTV 감시 자체가 집회의 자유에 위축 효과를 줄 수 있다고 결정한 바 있다.
■ AI의 편향성과 '마이너리티 리포트'의 현실화
AI 기술의 불완전성 또한 인권 침해의 주요 원인이다. 미국에서는 AI 안면 인식 오류로 인해 억울하게 체포된 흑인들의 사례가 잇따르고 있다. 연구 결과에 따르면 AI는 인종, 성별, 연령에 따라 인식 정확도에 큰 편차를 보이는 것으로 나타났다.
나아가 범죄가 발생하기 전 예측하여 대응하는 '예측 치안' 시스템의 위험성도 제기됐다. 장여경 이사는 "특정 지역이나 계층을 타깃으로 하는 예측 치안은 인종적·경제적 편견을 강화하는 '피드백 루프' 문제를 야기할 수 있다"며, 영화 <마이너리티 리포트>처럼 발생하지도 않은 범죄를 근거로 시민을 잠재적 범죄자 취급하는 상황을 경계해야 한다고 강조했다.
■ "인권 가이드라인과 법적 규제 마련이 우선"
유럽연합(EU)은 최근 인공지능법(AI Act)을 통해 공공장소에서의 실시간 생체 인식과 직장·학교에서의 감정 인식 기술 사용을 엄격히 제한하고 있다. 반면 한국은 국가인권위원회가 2023년 얼굴 인식 기술에 대한 입법을 권고했음에도 불구하고, 여전히 구체적인 법적 통제 장치가 미비한 실정이다.
랑희 활동가는 "안전과 자유는 선택의 문제가 아니라 함께 가야 하는 가치"라며, 최근 시민사회가 막아낸 '휴대폰 개통 시 안면 인증 의무화' 캠페인처럼 시민들의 권리 인식이 중요하다고 말했다.
장여경 이사는 얼굴과 같은 생체 정보는 유출되면 변경이 불가능한 가장 민감한 정보라며 "내 개인 정보는 이미 공공재라는 포기 선언 대신, 국가와 기업의 무분별한 정보 수집에 맞서 자기 결정권을 지키려는 노력이 절실하다"고 당부했다.
편리함과 효율성이라는 이름 뒤에 숨은 AI의 감시 칼날. 기술이 인간의 존엄성을 앞지르지 않도록 사회적 합의와 법적 보호 장치 마련이 시급해 보인다.