[교황 레오 14세 '마니피카 후마니타스' 반포] "인류 존엄성 위협하는 AI, 인간 지배 못 하게 무장해제해야"

교황 레오 14세가 5월 25일 바티칸 시노드홀에서 AI의 발전을 다룬 첫 번째 회칙 '마니피카 후마니타스'를 발표하고 있다. /사진 로이터연합

교황 레오 14세(이하 교황)가 즉위 후 첫 회칙(回勅)에서 인공지능(AI) 기술의 급격한 발전이 인간 존엄성과 평화를 위협할 수 있다고 경고했다. 교황은 AI가 인간을 지배하거나 대체하지 못하도록 국제사회가 기술 권력을 통제하는 ‘무장해제(disarmed)’에 나서야 한다고 촉구했다. 가톨릭 최고 권위의 사목 교서가 과학기술의 위험성을 전면 가시화한 것은 교회 역사상 처음이다.

바티칸 교황청은 5월 25일(이하 현지시각) 바티칸 시노드홀에서 교황의 제1호 회칙 ‘마니피카 후마니타스(Magnifica Hu-manitas·고귀한 인류)’를 공식 반포했다. 4만 단어가 넘는 분량으로, 총 82쪽 245개 항으로 구성된 이 회칙은 교황이 지난해 5월 즉위한 뒤 처음 반포한 교서다. 사제 서품 전 미국 빌라노바대에서 수학을 전공한 교황은 기술에 대한 이해가 높은 것으로 알려졌다. 이례적으로 이번 반포식에도 직접 참여해 연단에 섰다. 통상 추기경이나 신학 전문가가 대신하던 행사에 교황이 직접 모습을 드러낸 것은 AI에 대한 가톨릭교회의 엄중한 인식을 대변한다.

회칙은 교황이 전 세계 주교와 14억 가톨릭 신자에게 보내는 최고위 문서로, 교황 교서나 권고 등의 문서보다 구속력이 강하다. 가톨릭 교리에 따라 신자는 교황의 통상 교도권에 ‘종교적 동의’를 표할 의무가 있다. 그간 회칙은 노동자 권리(레오 13세·1891년), 핵무기 경쟁 중단(요한 23세·1963년), 기후 위기(프란치스코·2015년) 등 시대적 난제에 도덕적 지침을 제시해 왔다.

'레룸 노바룸' 정신 계승… AI 혁명, 현대판 산업혁명으로 규정

이번 회칙은 교황이 5월 15일 서명하며 세상에 공개됐다. 이날은 1891년 교황 레오 13세가 자본주의의 폐해와 노동자 권리 보호를 주장한 회칙 ‘레룸 노바룸(Rerum No-varum·새로운 사안)’ 반포 135주년이 되는 날이다. 이는 교황청이 현재의 AI 전환기를 19세기 산업혁명에 준하는 문명사적 전환점이자, 인권에 대한 중대한 도전으로 바라본다는 방증이다. 교황은 노동권을 강조한 레오 13세를 계승하는 뜻에서 교황명을 레오14세로 택했다고 밝힌 바 있다.

교황은 “오늘날 인류는 하느님이 부여한 위대한 존엄성을 지키느냐, 기술 맹신주의에 빠져 새로운 ‘바벨탑’을 쌓느냐는 중대한 선택의 기로에 서 있다”며 “AI가 인간의 생산성을 극대화하고 노동을 보조할 수는 있지만, 효율성과 이윤 극대화라는 명목 아래 인간을 수단화하는 행위는 결코 정당화될 수 없다”고 지적했다.

크리스 올라(오른쪽) 앤트로픽 공동창업자가 5월 25일 교황청의 '마니피카 후마니타스' 회칙 반포에 앞서 교황 레오 14세와 악수하고 있다. /사진 로이터연합

"어떤 알고리즘도 전쟁 정당화 못 해"… 자율 살상 무기에 경고

가장 파격적인 대목은 가톨릭의 오랜 전통인 ‘정당한 전쟁(just war)’ 이론의 사실상 폐기 선언이다. 교황은 군사 분야의 AI 기술 도입과 살상 무기 자동화의 비인간성을 강하게 경계했다. 그는 “어떤 정교한 알고리즘과 AI 데이터도 무고한 인명을 살상하는 전쟁을 도덕적으로 정당화할 수 없다”며 “이제 AI는 무장해제돼야 하며, 그것을 지배·배제·죽음의 도구로 만드는 논리에서 해방돼야 한다”고 역설했다.

여기서 무장해제는 기술 자체의 거부가 아니라, 기술 권력자의 무소불위 통치와 기술의 인류 지배를 막자는 의미다. 회칙은 데이터와 알고리즘이 생성한 허위 정보와 딥페이크가 대중을 선전·통제에 취약하게 하는 점을 심각한 위협으로 꼽았다. 차세대 AI가 금융 시스템을 마비시키고 군사 공격 목표를 설정하는 등 의사 결정에서 인간을 대체할 우려도 명시했다. 특히 자율 살상 무기 체계(LAWS)에 강한 우려를 표하며, 인류가 대화와 외교라는 평화적 도구를 회복해야 한다고 호소했다.

데이터 라벨링은 '현대판 노예제'… 디지털 소외와 기술 독점 경고

교황은 디지털 경제가 저임금 노동 착취에 기반하고 있다며, 거대 언어 모델(LLM) 학습을 위해 개발도상국 등에서 저임금으로 행해지는 ‘데이터 라벨링’과 플랫폼 감시 노동을 ‘새로운 형태의 노예제’로 규정했다. 이어 AI 시대 핵심 자원인 데이터와 인프라를 특정 기업이나 국가가 독점해선 안 되며, 인류를 위한 ‘보편적 재화’로 다뤄야 한다고 촉구했다. 특히 플랫폼과 데이터를 소수 기술 주체가 통제할수록 불평등이 심화한다고 경고했다. 교황은 각국 정부를 향해 “시장의 보이지 않는 손에만 의존할 수 없다”며 정치가 노동의 존엄성과 공정한 분배를 위해 적극 개입해야 한다고 요구했다.

글로벌 AI 규제 논의에 '윤리적 이정표' 제시

교황은 AI를 ‘성경’ 속 바벨탑에 비유하며, 예루살렘 성벽 재건을 이끈 느헤미야를 올바른 기술 사용의 모델로 제시했다. 자기주장과 획일성, 통제의 상징인 바벨탑과 달리, 느헤미야의 재건은 기도와 공동체, 책임, 연대를 기반으로 했다는 것이다. 회칙이 짚은 가장 큰 위험은 기술 자체가 아니라 인간의 자기 인식 변화다. 교황은 “효율이 가치의 궁극적 척도가 되는 순간, 인간은 자신을 최적화해야 할 프로젝트로 보게 된다”며 노화와 취약성 같은 인간적 한계 속에 연대의 가치를 깨달아야 한다고 강조했다.

바티칸의 이번 반포는 AI 패권 경쟁이 격화하는 국제사회에 적지 않은 파장을 미칠 것으로 보인다. 교황청은 실행력을 높이기 위해 산하에 ‘AI 부처 간 위원회’를 공식 승인하고 국제적 연대를 이어갈 방침이다.

실리콘밸리의 반응은 극명히 엇갈렸다. 백악관 AI 책임자를 지낸 데이비드 삭스는 정부의 과도한 개입이 검열로 이어질 수 있다고 경고한 반면, 트위터 공동창업자 잭 도시는 빅테크의 독점을 경고한 교황의 문제의식에 공감을 표했다.

Plus Point
바티칸 찾은 앤트로픽 공동 창업자… AI 안전 진영과 교황청의 조우

2026년 5월 25일 교황 레오 14세의 첫 번째 회칙 '마니피카 후마니타스' 반포식에 참석한 크리스 올라 앤트로픽 공동 창업자. /사진 AP연합

이번 회칙 반포식에는 미국 AI 기업 앤트로픽의 공동 창업자 크리스 올라가 참석해 이목을 끌었다. 올라 창업자는 가톨릭교회를 향해 “내부 개발자가 보지 못하는 사각지대를 짚어주는 통찰력 있는 비판자”라며 교황청과 지속적인 윤리적 협력 의지를 피력했다. 그는 인공 신경망 내부 작동 원리를 규명해 AI 투명성을 높이는 ‘해석 가능성(interpretabili-ty)’ 연구의 권위자로 꼽힌다. 교황청이 AI 위험성을 선언하는 자리에 실리콘밸리의 핵심 연구자가 함께한 것은 그 자체로 상징성을 띤다.

오픈AI 출신인 다리오·다니엘라 아모데이 남매 등이 2021년 설립한 앤트로픽은 자사 모델 ‘클로드’ 에 ‘헌법적 AI(Constitutional AI)’ 방법론을 도입하는 등, 설립 초기부터 안전하고 인간에게 유익한 기술 개발을 고수해 왔다. “AI가 인류 역사상 가장 위험한 기술일 수 있지만, 우리가 포기하면 덜 안전한 방식으로 개발된다”는 것이 이들의 철학이다.

그러나 이 같은 행보는 AI 규제를 철폐하려는 트럼프 정부의 정책 기조와 정면으로 충돌하고 있다. 실제 미국 국방부는 최근 앤트로픽을 ‘공급망 위험 기업’으로 지정하며 압박했고, 앤트로픽은 연방 정부를 상대로 소송을 제기하며 맞섰다. 이번 회칙이 트럼프 정부와 앤트로픽 등 AI 안전 진영 그리고 바티칸 사이의 복잡한 외교·윤리 갈등의 전선을 한층 선명하게 할 거라는 분석이 나오는 이유다.