'선 넘는 AI'... 안면인식으로 '인간이 이동할 자유' 막는다

이스라엘, '안면인식' 기술 활용해 자동 검문
엠네스티 "자동화된 인종차별 정책" 비판
이동의 자유마저 제한 "위험성 경고" 잇따라

2020년 5월 이스라엘 군인들이 서안지구 남부 헤브론 검문소에서 팔레스타인인들을 저지하고 있는 모습. EPA 연합뉴스

이스라엘이 인공지능(AI) 기술을 활용해 팔레스타인에 대한 통제를 강화하고 있다는 폭로가 나왔다. 안면 인식 기술을 활용해 팔레스타인 주민을 감시하고 탄압하는 등 반(反)인권적 규제에 AI를 악용한다는 게 요지다. AI가 빅브라더 사회를 조장하고, AI 기술 격차가 차별을 부추긴다는 우려가 점점 더 현실이 되고 있다.

이스라엘, AI 안면인식 기술로 "이동 제한"

2일(현지시간) 국제엠네스티는 이스라엘이 최근 팔레스타인 서안지구 헤브론 검문소에 안면 인식 시스템을 설치했다고 공개했다. 일명 '레드 울프'라 불리는 새로운 AI 안면 인식 프로그램을 통해 통제 지역을 벗어난 팔레스타인인을 색출한다고 엠네스티는 전했다.

서안지구 최대 도시 헤브론은 팔레스타인 통제지역(H1)과 이스라엘군 통제지역(H2)으로 나뉜다. H2의 이스라엘 주민은 자유롭게 이동할 수 있지만 팔레스타인 주민들은 검문소를 통과해야 하는 등 엄격한 통행 제한을 받는다.

'레드 울프'는 검문소를 통과하려는 팔레스타인인 얼굴을 스캔해 신원을 확인한다. 이스라엘이 보유한 데이터베이스를 검색해 정보가 일치하는 팔레스타인인만 검문소를 통과시켜 준다. 저장된 개인정보가 없거나 구금, 심문, 체포가 필요한 위험 인물이라고 AI의 알고리즘이 인식하면 자동으로 통과를 막는다.

이스라엘이 안면 인식 시스템으로 팔레스타인 주민 감시에 나선 게 처음은 아니다. 2021년에도 '블루 울프'란 애플리케이션(앱)을 통해 대대적인 감시 활동에 나섰다. '블루 울프' 역시 울프팩이라 불리는 데이터베이스와 얼굴 사진을 대조하는 시스템이었는데, 사람이 얼굴 사진을 직접 찍어 전송해야 한다는 점이 달랐다. 레드 울프는 '살아 있는 인간을 기계가 감시한다'는 발상을 현실화했다. 팔레스타인인 입장에선 숨을 곳이 사라졌다.

AI 제동 건 전문가들 "위험 관리될 때 개발돼야"

인권 침해란 비판이 잇따르고 있다. 엠네스티는 "이스라엘이 '자동화된 아파르트헤이트(인종차별 정책)'를 펼치고 있다"고 지적했다. "불법으로 획득한 생체 인식 정보를 사용해 팔레스타인 사람들이 누려야 할 이동의 자유를 가혹하게 제한하고 있다"는 게 이유다. 미 뉴욕타임스(NYT)는 "이스라엘은 오랫동안 팔레스타인인의 이동의 자유를 제한해 왔지만 AI 기술 발전은 이스라엘에 새로운 강력한 도구를 제공했다"고 평가했다.

'챗GPT'를 계기로 불어닥친 생성형 인공지능(AI) 광풍 속에 부작용을 우려하는 목소리도 커지고 있다. 게티이미지뱅크

AI가 인간의 삶 구석구석을 파고들면서 위험성을 경고하는 목소리도 동시에 커지고 있다. 딥러닝 개념을 만든 AI 분야 석학인 제프리 힌튼 박사는 지난달 구글에 사표를 내면서 "AI의 위험을 알리기 위해서"라고 했다. 그는 "사람보다 로봇이 똑똑해질 수 있다는 생각은 더 이상 소수 의견이 아니다. AI가 스스로 코드를 생성·실행하는 것이 허용되면 '킬러 로봇'도 나올 수 있다"고 NYT에 말했다.

지난 3월 일론 머스크 테슬라 최고경영자, 스티브 워즈니악 애플 공동창업자 등 첨단기술 기업 대표와 연구자들은 "6개월간 첨단 AI 개발을 일시 중단해야 한다"고 촉구하는 공개서한을 냈다. 최근까지 이 서한에 서명한 전문가는 2만7,000명이 넘는다. 서한을 주도한 미국 비영리단체 '삶의 미래 연구소'는 "강력한 AI 시스템은 그 효과가 긍정적이고 위험 관리에 대한 확신이 있을 때만 개발해야 한다"고 주장했다.

조아름 기자 archo1206@hankookilbo.com