中선 공산당 충성도 측정하는 AI 등장 [세계는 지금]

뇌파·표정 분석해 사상 척도 판단
감시용 활용 확대에 우려 목소리
민변 "AI 사용자 따라 편향 불가피"

지난 8일 중국 베이징의 한 거리에서 감시 카메라가 설치되고 있다. AP연합뉴스

인공지능(AI) 활용 분야가 늘어나면서 국가 감시와 개인정보 권리를 둘러싼 논란도 이어지고 있다.

영국 일간 더타임스에 따르면 중국 허페이(合肥)종합성국가과학센터(HCNSC) 인공지능연구원(IAI)은 지난 1일 AI로 공산당에 대한 충성도를 측정할 수 있다는 기술을 공개했다. 공산당원의 뇌파와 표정 등을 분석해 얼마나 사상 교육을 적극적으로 받아들이는지 측정하는 것이다. 이를 홍보하는 영상은 공개된 지 얼마 되지 않아 사라졌다. 감시용 AI 사용 확대를 둘러싼 대중 반발 때문으로 보인다고 영국 일간 더타임스는 전했다. 중국은 일찌감치 공장 노동자가 지쳤는지, 누군가 외설물을 보는지 등을 적발하기 위해 뇌파 탐지기술을 연구해온 것으로 알려졌다.

한국에서도 대통령 경호에 AI 로봇을 도입하기로 하면서 논란을 빚었다. 윤석열정부는 지난 5월 디지털플랫폼 정부를 표방하면서 대통령 집무실 주변에 무인 경호를 위한 AI 로봇과 CC(폐쇄회로)TV를 배치하고 위험인물 식별을 위한 AI 기술을 도입하겠다고 발표했다.

민주사회를 위한 변호사모임 디지털정보위원회 위원장인 김하나(사진) 변호사는 15일 “AI가 어떤 데이터를 어떻게 학습하는지에 따라 사람이 가진 편견이나 편향을 가질 수 있다”며 “(무인경호 도입은) 위험인물에 대한 판단을 객관적인 것처럼 포장하는 것에 불과하다”고 지적했다. 그러면서 “국내에는 아직 AI 도입에 대한 법적 검토를 할 만큼의 법체계가 구축되지 않았다”며 “알고리즘이나 데이터 등에 대한 검증을 거치지 않고 도입하는 것은 시기상조”라고 강조했다.

아마존은 최근 숨진 사람의 음성 데이터를 기반으로 목소리를 되살리는 AI의 음성인식 서비스를 공개했다가 개인정보 권리 둘러싼 논란을 초래했다. 타마 리버 호주 커틴대 인터넷학 교수는 워싱턴포스트(WP)에 “내 할아버지가 100개의 음성 메시지를 나에게 보낸다면 그 데이터는 아마존이 소유하고 나는 그 데이터에 대한 권리를 포기하게 되는가”라며 이런 서비스가 비윤리적이라고 비판했다.

이종민 기자