교황 “AI, 또 다른 바벨탑 돼선 안 돼”…첫 회칙서 기술 권력 경고

교황 레오14세. EPA 연합뉴스

교황 레오 14세가 즉위 후 처음 발표한 최고 권위의 회칙에서 인공지능(AI)이 인간을 지배하는 상황을 강하게 경고했다.

교황은 “또 하나의 바벨탑 건설을 포기해야 한다”고 촉구했다.

AI와 알고리즘, 디지털 플랫폼이 전쟁과 사회 양극화를 증폭시키고 노동 착취를 심화시키고 있다며, 기술 권력에 대한 윤리적 통제와 공공의 감시가 필요하다고 강조했다.

레오 14세 교황은 25일(현지시간) 교황청 시노드 강당에서 첫 회칙 ‘마니피카 후마니타스’(Magnifica Humanitas·위대한 인간성)를 직접 발표했다. 회칙은 전 세계 가톨릭교회에 보내는 교황의 최고 권위 문헌으로, 교황이 직접 발표 행사에 나서는 것은 이례적이다.

교황은 이번 회칙의 핵심 개념으로 ‘AI의 무장해제’를 제시했다. 이는 AI 기술 자체를 거부하자는 뜻이 아니라, 특정 권력이나 기업이 AI를 통해 인간 사회를 지배하지 못하도록 해야 한다는 의미라고 설명했다. 그는 “기술을 가진 자들이 AI를 통치 수단으로 사용하는 권리를 거부해야 한다”고 강조했다.

특히 AI 기술 발전을 성경 속 바벨탑에 비유한 대목이 주목받았다. 인간이 하늘에 닿으려는 욕망으로 탑을 세우다 신의 분노를 샀던 바벨탑처럼, 오늘날 AI 역시 인간의 통제를 벗어난 권력 구조로 변질될 수 있다는 경고다.

교황은 “인류가 또 다른 바벨탑 건설을 포기하고 공동선을 위해 힘을 모아야 한다”고 말했다.

회칙에는 교황이 지속적으로 강조해 온 반전·평화 메시지도 담겼다. 그는 AI 시대의 전쟁이 단순한 무력 충돌을 넘어 허위 정보와 알고리즘이 만들어낸 단순화된 서사, 이분법적 사고를 통해 ‘문화적으로’ 조성되고 있다고 비판했다. 이러한 구조 속에서 전쟁은 “필요하거나 불가피한 것, 심지어 정화된 행위”처럼 포장된다고 지적했다.

교황은 특히 미국과 러시아 등 강대국들이 자주 활용해온 ‘정당한 전쟁’ 논리에 대해 “이미 시대에 뒤떨어진 개념”이라고 못박았다. 그는 “무력과 폭력, 무기의 사용은 인간 관계의 빈곤을 드러내는 것”이라며 일부 자율무기 체계가 이미 인간의 통제 범위를 넘어섰다는 우려도 나타냈다.

경제 구조에 대한 비판도 이어졌다. 교황은 AI와 디지털 경제가 데이터 라벨링과 모델 훈련 같은 보이지 않는 노동에 의존하고 있으며, 희토류 채굴 등 열악한 환경의 노동까지 결합돼 있다고 지적했다. 그는 이를 “새로운 형태의 노예제”라고 규정하며 “윤리적 AI 구축은 결국 이 새로운 노예제와 싸울 수 있느냐에 달려 있다”고 강조했다.

또 플랫폼과 데이터, 기술 인프라가 소수 거대 기업에 집중되는 현실에도 경고음을 냈다. 교황은 “디지털 환경은 국가가 아니라 경제 권력과 기술 기업들이 통제하고 있다”며 “권력이 소수에게 집중될수록 불투명성과 의존, 배제와 불평등 위험이 커진다”고 말했다. 이어 “AI와 로봇 시대에는 더 이상 시장의 ‘보이지 않는 손’만으로 공공선을 달성할 수 없다”며 정치권이 노동 존엄성과 사회적 포용, 혁신 이익의 공정한 분배를 보장해야 한다고 주장했다.

이번 발표 행사에는 AI기업 앤스로픽 공동창업자인 크리스토퍼 올라도 참석했다. 앤스로픽은 AI 기술의 감시·무기화 가능성을 둘러싸고 도널드 트럼프 행정부와 갈등을 빚어온 기업이다. 올라 공동창업자는 “모든 최첨단 AI 연구소는 ‘옳은 일’과 충돌할 수 있는 유인과 압박 속에 있다”며 외부 감시와 규제의 필요성을 강조했다.

교황이 이번 회칙에 서명한 날짜는 19세기 산업혁명 시기 노동권과 자본주의 문제를 다뤘던 교황 레오13세의 역사적 회칙 ‘레룸 노바룸’ 발표 135주년이었다. 교황청은 레오 14세라는 이름 자체가 노동권과 사회 정의를 강조했던 레오 13세의 정신을 계승한다는 의미를 담고 있다고 설명했다.

수학 전공자 출신인 레오 14세 교황은 즉위 이전부터 AI와 기술 권력 문제에 강한 문제의식을 보여온 인물로 알려져 있다. 이번 회칙 역시 기술 발전 자체보다, 그것이 인간성과 공동체를 위협하는 방향으로 사용될 가능성에 대한 철학적·윤리적 경고를 담아냈다는 평가가 나온다.

이규화 기자 david@dt.co.kr