“AI 인간 존엄 무너뜨려, 따뜻한 온기마저 대체” 국제 인권 규범 설계해온 석학의 경고

필립 알스턴 前 유엔 빈곤·비사법적 처형 특별보고관 인터뷰

지난 16일 서울 중구 웨스틴 조선에서 필립 알스톤 전 유엔 빈곤과 인권 특별보고관이 본지와 인터뷰를 하고 있다./장경식 기자

“인공지능(AI)이 인간의 존엄을 무너뜨리고 있습니다.”

필립 알스턴 뉴욕대 로스쿨 석좌교수는 지난 16일 본지 인터뷰에서 “AI가 사생활을 침해하는 데다 노동 현장에서는 통제 수단으로 쓰이고 있다”며 “AI가 현대 사회에 거의 남아있지 않은 인간적 온기마저 훼손할 수 있다”고 했다. 호주 출신의 국제법 학자인 알스턴 교수는 AI의 위험성을 경고해 온 ‘두머(Doomer·파멸론자)’로 꼽힌다. 유엔 비사법적 처형 특별 보고관, 빈곤·인권 특별 보고관 등을 지내면서 국제 인권 규범의 기틀을 다졌다.

이날 국가인권위원회 주관으로 열린 국제인권콘퍼런스에서 기조 연설을 한 알스턴 교수는 AI가 인간의 가장 내밀한 영역까지 파고들고 있다고 경고했다. 그는 “AI가 개인의 관심사, 구매 내용, 건강 이상 징후는 물론 ‘아내와 사이가 안 좋다’는 개인적 고민까지 모두 기록하고 있다”며 “인간의 가장 은밀한 생각과 습관, 의료 정보까지 추적·분석당하는 시대”라고 했다.

앞서 그는 2019년 유엔 총회에 제출한 ‘디지털 복지국가’ 보고서에서 “빅테크 기업들은 사실상 ‘인권 사각지대(human rights free-zones)’에서 활동하고 있다”고 비판했다. 당시 그는 정부 규제가 미비한 틈을 타 기업들이 복지 시스템을 장악하고 사회적 약자를 감시·통제한다고 지적했다. 또한 디지털 전환이 ‘효율성’과 ‘비용 절감’ 명목으로 추진되면서, 디지털 문해력이 낮거나 인터넷 접근이 제한된 빈곤층이 가장 큰 피해를 본다고 경고했다.

보고서에 따르면 영국의 경우 국민 다섯 명 중 한 명, 약 1200만 명이 필수적인 디지털 역량조차 갖추지 못했으며, 19%는 기기를 켜거나 앱을 여는 기본 작업조차 할 수 없었다. 또 410만 명(전체 인구의 8%)은 인터넷을 안전하지 않다고 믿어 아예 오프라인 상태로 남아 있었는데, 이들 중 절반은 저소득층, 절반은 60세 미만이었다.

지난 16일 서울 중구 웨스틴 조선에서 2025 국제 인권 콘퍼런스가 열린 가운데 필립 알스톤 전 유엔 빈곤과 인권 특별보고관이 기조연설을 하고 있다. /장경식 기자

그로부터 5년이 지난 지금, 알스턴 교수는 상황이 오히려 악화됐다고 진단한다. 알스턴 교수는 오픈AI나 메타 등 빅테크 기업들이 AI 개발 과정에서 민주주의적 가치를 배제하고 있다며, 시장 논리도 중요하지만 개인의 자율성을 침해하지 않도록 각별히 주의해야 한다고 했다. 그는 “AI 데이터센터와 기술 개발 능력은 미국, 중국 등 북반구 국가에만 몰려 있다”며 “아프리카와 남미 국가는 시스템 설계 과정에서 철저히 배제된다”고도 했다. 전 지구적으로 AI 시스템이 형성되는 과정에서 특정 국가는 제외될 수 있다는 것이다.

알스턴 교수는 “AI는 생산성 향상이나 실종자 추적 등 긍정적 활용 가능성도 크다”면서도 “이런 기술이 부정적으로 쓰이면 정부, 경찰, 이민 당국과 빅테크가 결탁해 개인의 모든 움직임을 추적할 수 있다”고 했다. 그는 “특히 노동 현장 활용은 심각하다. 고용주는 직원이 키보드 앞에 몇 분 앉아 있었는지, 출퇴근에 얼마나 걸렸는지까지 모두 파악할 수 있다”며 “이는 단순한 프라이버시 문제가 아니라 조지 오웰 소설 ‘1984’ 수준의 감시·통제 체제”라고 했다.

AI가 인권을 위협하는 시대, 인간다움의 가치는 무엇일까. 그는 잠시 생각에 잠긴 뒤 답했다. “그것은 인간의 온기, 따뜻한 손길, 연민, 연대입니다. 하지만 이런 것들은 AI 시대에 점점 사라져갈 위험이 있습니다. 노인이 되면 사람들은 걱정하고 공감하는 대신 챗봇을 건네줄 겁니다. 그러나 챗봇은 진짜 온기를 전할 수 없습니다. 그것은 가짜, 인위적인 따뜻함일 뿐입니다. 우리는 바로 그것을 잃을 위험에 처해 있습니다.”

필립 알스턴 뉴욕대 로스쿨 석좌교수는 지난 16일 본지 인터뷰에서 “AI 시대에 사라질 위험에 처한 것은 인간의 온기와 연민, 연대”라며 “챗봇은 진짜 따뜻함을 대신할 수 없다”고 말했다. /장경식 기자

☞필립 알스턴

호주 출신의 국제법 학자로, 멜버른대와 UC버클리 로스쿨에서 법학을 공부했다. 현재 뉴욕대학교 로스쿨 석좌교수로 재직 중이다. 2014~2020년 유엔 빈곤·인권 특별보고관을 지냈으며, 그 이전에는 유엔 비사법적 처형 특별보고관(2004~2010), 유엔 경제적·사회적·문화적 권리위원회 위원장(1991~1998) 등을 맡았다. 저서 ‘국제인권’은 인권법 분야의 대표 교과서로 꼽힌다. 빈곤, 불평등, 디지털 복지국가, AI와 인권 문제를 국제사회에 꾸준히 제기했다.