교황 “AI, 인간 지배 못하게 무장해제해야”…첫 회칙서 기술권력 정조준

레오 14세 교황이 즉위 후 열린 첫 회칙(교황의 최고 권위 교서) 발표회에서 “인공지능(AI)가 인간을 지배하지 못하도록 무장해제(disarmed)돼야 한다”고 선언하며 AI 시대의 기술 권력과 전쟁, 노동 착취를 정조준했다. 발표 현장에는 AI 기업 앤스로픽 공동창업자도 참석해 종교계와 기술계의 AI 윤리 논의가 본격화됐다는 분석이 나온다.

레오 14세 교황이 25일(현지시간) 바티칸에서 열린 첫 번째 회칙 발표회에서 연설하고 있다. AP=연합뉴스

교황은 25일(현지시간) 바티칸에서 즉위 후 첫 회칙인 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’를 직접 발표했다. 그는 “AI는 이제 무장해제돼야 하며, 그것을 지배·배제·죽음의 도구로 만드는 논리에서 해방돼야 한다”고 말했다. 여기서 말한 ‘무장해제’는 AI 기술 자체를 거부하자는 뜻이 아니며 소수 권력자나 기업이 AI를 독점해 인간을 통제하는 상황을 막자는 의미에 가깝다. 교황은 AI가 인간의 삶을 돕는 도구가 아니라 인간 위에 군림하는 권력이 되는 상황을 경고한 셈이다.

특히 AI 권력이 소수 기업과 권력자 손에 집중되는 상황을 강하게 경계했다. 그는 “AI는 소수의 손에 남아 있어서는 안 된다”며 “모든 기술 도구는 무엇을 측정하고 무엇을 무시하며 무엇을 최적화할지에 대한 선택과 우선순위를 내포한다”고 지적했다. 이어 “AI를 도덕적으로 중립적이라고 볼 수 없다”고 강조했다. AI가 단순히 중립적 기술이 아니라, 누가 만들고 어떤 목적에 쓰느냐에 따라 사회 전체 가치관과 권력 구조까지 바꿀 수 있다는 의미다.

레오 14세 교황이 25일(현지시간) 바티칸에서 열린 첫 번째 회칙 발표회에서 앤트로픽 공동 창립자 크리스토퍼 올라와 악수하고 있다. 로이터=연합뉴스

AI 무기와 자동화된 살상 시스템에 대한 비판 수위도 높았다. 교황은 “AI로 개발된 무기에는 가장 엄격한 윤리적 제약이 적용돼야 한다”며 “AI 시스템에 돌이킬 수 없는 치명적 결정을 맡기는 것은 허용될 수 없다”고 말했다. 또 “자율 무기 시스템이 쉽게 배치될수록 전쟁은 더 실행하기 쉬워지고 인간의 통제에서는 멀어진다”고 비판했다.

교황은 AI 시대를 인간이 “바벨을 건설할지, 예루살렘을 재건할지 선택해야 하는 순간”이라고 표현했다. 성경 속 바벨탑은 인간의 오만과 권력 집중, 획일화를 상징하는 존재다. 반면 예루살렘 재건은 공동체와 연대를 통해 사회를 복원하는 과정이라고 설명했다. 그는 “문제는 기술 자체가 아니라 누가 AI를 설계하고 통제하느냐”라며 “또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모아야 한다”고 강조했다.

그는 가톨릭의 전통적 ‘정당한 전쟁론’에 대해서도 “이제 시대에 뒤떨어졌다”며 반대의 뜻을 밝혔다. 정당한 전쟁론은 전쟁을 무조건 금지하거나 허용하는 게 아니라, 어떤 조건에서 도덕적으로 정당화될 수 있는지를 따지는 가톨릭 윤리 전통이다. 교황은 “무력·폭력·무기의 사용은 결국 민간인들에게 재앙적 결과를 초래한다”며 “인류는 대화와 외교, 용서라는 훨씬 더 효과적인 도구를 갖고 있다”고 주장했다.

레오 14세 교황이 지난 15일(현지시간) 바티칸에서 첫 회칙 문서에 서명하고 있다. 로이터=연합뉴스

AI 시대의 노동 착취 문제도 겨냥했다. 그는 “디지털 경제의 상당 부분은 데이터 라벨링과 모델 훈련 등 보이지 않는 노동에 의존한다”며 이를 “새로운 형태의 노예제”라고 규정했다. 또 “더 큰 이윤 추구가 일자리를 체계적으로 희생시키는 선택을 정당화할 수는 없다”며 “인간은 수단이 아니라 목적”이라고 강조했다.

산업혁명 시기 노동권 문제를 다룬 레오 13세(1878~1903 재위)의 회칙 ‘레룸 노바룸(새로운 사안)’ 발표 135주년에 맞춰 서명된 이번 회칙은 AI 혁명을 또 다른 산업혁명급 도전으로 규정한 상징적 문서로 평가된다. ‘레룸 노바룸’은 산업혁명 당시 노동 착취와 자본주의 문제 속에서 노동자의 권리와 인간 존엄을 강조한 교황청의 대표 사회교리 문헌이다. 이에 맞춰 레오 14세 역시 AI 시대 인간 존엄과 노동 문제를 전면에 내세운 셈이다.

다만 “AI 개발 규제 완화를 위해 적극 움직여 온 (도널드) 트럼프 (미) 행정부와 또 다른 갈등의 불씨를 만들었다”(AP)는 평가도 나온다. 지난해 말 트럼프는 미국 각 주(州) 정부의 AI 관련 규제를 차단하고 연방정부 차원의 기준을 마련하기 위한 행정명령에 서명하는 등 친AI 행보를 이어왔다. 앞서 교황은 미국·이스라엘의 이란 공습과 종교 언어를 통한 전쟁 정당화를 두고 트럼프 행정부와 신경전을 벌인 바 있다.

앤트로픽 공동 창립자 크리스토퍼 올라가 25일(현지시간) 바티칸에서 열린 레오 14세 교황의 첫 번째 회칙 발표회에서 사진 촬영을 위해 포즈를 취하고 있다. AP=연합뉴스

이날 발표 자리엔 크리스토퍼 올라 앤스로픽 공동창업자가 직접 참석해 눈길을 끌기도 했다. 올라는 “AI가 인류에게 잘 작동하도록 만들기 위해서는 이런 외부 검증이 근본적으로 필요하다”며 교황의 문제 제기에 공감을 나타냈다. 이날 AI 위험성을 경고하는 회칙 발표에 실리콘밸리 핵심 AI 기업이자 미 정부와 AI 군사 활용문제를 두고 갈등을 빚어온 창업자를 세운 건, 기술 기업을 배제하기보다 논의 테이블로 끌어들이겠다는 교황청의 의도가 반영된 것이란 해석이 나온다.

교황청은 지난 10여년간 실리콘밸리와 AI 윤리 대화를 이어온 것으로 알려졌다. 전임 프란치스코 교황 시절부터 AI 규제와 딥페이크, 초인주의(transhumanism) 문제 등을 논의해왔으며, 최근에는 교황청 내 범부처 AI 위원회도 새로 설치했다.

한지혜 기자 han.jeehye@joongang.co.kr