교황의 경고 "AI는 또 다른 바벨탑... 무장해제 시켜야"

첫 회칙 '위대한 인간성'에서 AI 위험성 경고... "인간 지배 못하게 막아야"

[윤현 기자]

▲ 이탈리아 카스텔 간돌포에 있는 교황 관저 밖에 모인 사람들에게 손을 흔드는 레오 14세 교황. 2026.5.26 ⓒ 로이터=연합뉴스

레오 14세 교황이 즉위 후 처음 발표한 최고 권위 교서에서 인공지능(AI)이 인간을 지배할 수 없도록 '무장해제'가 필요하다며 모든 사람은 유일하고 대체될 수 없는 존재라는 인간 존엄을 강조했다.

레오 14세는 25일(현지 시각) 교황청 시노드 강당에서 이런 내용이 담긴 첫 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)를 발표했다.

회칙은 교황이 전 세계 14억 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서로 종교적 가르침을 넘어 노동, 전쟁, 환경, 세계화 등 국제사회가 현대 사회 이슈에 대응하는 지침서 역할을 한다.

소수의 권력이 통제하는 AI... "왜곡될 위험 커져"

교황은 이번 회칙에서 'AI 무장해제'를 전면에 내세웠다. 데이터와 알고리즘으로 생성된 허위 정보가 인간을 지배하고, 소수의 강력한 민간기업이 AI를 이용해 전쟁을 일상화할 능력을 갖췄다며 위험성을 경고했다.

그는 "전쟁을 도덕적으로 정당하게 만드는 알고리즘은 없다"라며 "AI는 전쟁의 비인간성을 제거하지 못하고 오히려 전쟁을 더 속도감 있고 비인격적으로 만들며, 폭력 사용의 문턱을 낮추고 방어를 '위협 예측'으로 바꾸며 희생자를 데이터로 환원한다"라고 지적했다.

이어 "AI 시대의 전쟁은 단순히 무력 충돌을 넘어 기술이 만들어낸 허위 정보와 단순화된 서사, 이분법적 사고가 문화적으로 형성된다"라며 "전쟁을 필요하거나 불가피한 것, 심지어 정화된 것으로 만든다"라고 강조했다.

그러면서 "모든 종류의 전쟁을 합리화하는 데 너무 자주 사용하는 '정당한 전쟁' 이론은 이제 시대에 뒤떨어졌다"라며 "무력과 폭력, 무기의 사용은 관계의 빈곤을 반영한 것"이라고 일각에서 주장하는 '정당한 전쟁론'을 정면으로 비판했다.

레오 14세는 신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등을 '보편적 재화'로 여겨야 한다면서 AI 기술을 신의 권위에 대한 도전을 상징하는 성경 속 바벨탑과 비교하며 "또 하나의 바벨탑을 만들려고 하지 말고 공동선을 구축해야 한다"라고 밝혔다.

그는 "디지털 환경의 플랫폼과 데이터, 인프라는 국가가 아닌 경제 및 기술자들이 통제한다"라며 "이런 권력이 소수에 집중될 때 불투명해지고 의존과 배제, 불평등으로 왜곡될 위험이 커진다"라고 우려했다.

"더 큰 이윤 위해 일자리 희생시키면 안 돼"

레오 14세는 디지털 경제의 노동력 착취를 언급하며 '새로운 노예제'라고 규정하기도 했다. 이어 "기술 그 자체를 인류와 대립하는 힘으로 간주해서는 안 된다"라면서도 "더 큰 이윤을 추구한다는 이유로 일자리를 조직적으로 희생시키는 선택은 정당화될 수 없다"라고 선을 그었다.

그는 "높은 수준의 기술 발전을 이루었는데도 전체 인구의 극히 일부에게만 고용을 보장하는 사회는 많은 구성원을 무력한 상태에 노출할 것"이라며 "이는 물질적 진보와 인류학적 퇴보라는 모순을 낳으며, 정의롭고 안정적 사회 기반을 약화할 것"이라고 비판했다.

그러면서 "AI와 로봇 시대에는 더 이상 시장의 '보이지 않는 손'에만 의존할 수 없다"라며 "책임을 회피하지 않는 정치가 노동의 존엄성, 사회적 포용, 혁신 혜택의 공정한 분배를 이뤄야 한다"라고 촉구했다.

<뉴욕타임스>는 "레오 14세의 회칙은 AI 시대라는 새로운 변곡점에서 인간의 삶을 깊이 있게 성찰할 수 있는 미래지향적 문서"라며 "이번 회칙에서 가장 주목할 것은 AI가 아무리 발달하더라도 AI는 인간이 아니라는 것"이라고 평가했다.

또한 "AI가 가치 있는 도구에 머물러야 한다는 지적을 눈여겨봐야 한다"라며 "AI는 인간의 지능을 넘어서서 여러 분야에서 실질적인 이점을 제공하지만, 육체를 가지고 있지 않으며, 기쁨이나 고통을 느끼지 못하고, 관계를 통해 성숙하지 못하며, 사랑, 일, 우정, 책임감이 무엇을 의미하는지 내면적으로 알지 못한다"라고 설명했다.

CNN 방송도 "레오 14세의 회칙은 AI 기술이 주는 기회를 부정하지도 않고, 그렇다고 유토피아적인 미래를 열어줄 것으로 보지도 않는 접근 방식"이라며 "교황의 가장 중요한 관심사는 인간 본연의 존엄성을 지키면서 가톨릭 교리의 핵심 가치인 정치·시민 생활 참여를 AI 논의에 활용하고자 하는 것"이라고 전했다.

이어 "그는 기술이 노화와 같은 신체적·생물학적 한계를 극복하는 데 도움이 될 수 있다는 '트랜스휴머니즘'과 인간의 고유성에 의문을 제기하고 인간과 기계의 경계를 모호하게 하는 '포스트휴머니즘'을 비판한다"라며 "레오 14세는 궁극적으로 AI 기술을 거부하는 것이 아니라 인류를 지배하는 것을 막으려고 한다"라고 강조했다.

직접 회칙 발표한 교황 "AI, 무장해제만으로 충분치 않아"

레오 14세는 이번 회칙을 이례적으로 직접 반포했고, 기자회견에도 참석해 회칙 반포 배경과 취지를 직접 설명했다. 그만큼 AI가 인류에 미치는 파급력이 크고, 민감한 주제라는 것을 보여주는 장면이다.

그는 "취임 후 지난 1년간 열정적인 기술 분야 지도자들뿐 아니라 젊은 세대의 미래를 깊이 걱정하는 학부모와 교사들의 이야기를 들어 왔다"라며 "인간의 손길이 사실상 미치지 못하는, 자율화되는 무기 체계에 관한 우려스러운 목소리들이 내게 전해졌다"라고 말했다.

또한 AI 무장해제(disarm)라는 표현에 대해 "매우 자극적인 단어라는 것을 알고 있지만, 지금 이런 상황에서 관심을 끌 수 있는 단어가 필요하기 때문에 의도적으로 선택했다"라며 "AI를 무장해제하는 것만으로는 충분하지 않다. 주의를 환기하고 양심을 일깨우며, 인류가 나아갈 수 있는 길을 보여줘야 한다"라고 강조했다.

이날 기자회견에는 크리스토퍼 올라 앤트로픽 공동 창업자도 참석했다. 앤트로픽은 AI 기술의 위험성 때문에 감시나 무기 개발에 사용하지 말아야 한다고 주장하면서 도널드 트럼프 미국 행정부와 충돌하기도 했다.

올라는 "AI 문제를 나와 같은 컴퓨터 과학자들이 가장 잘 다룰 수 있다고 믿는 것은 오해"라며 "AI가 제기하는 질문들은 그 함의뿐 아니라 본질적인 면에서도 AI 연구 공동체의 범위를 넘어선다"라고 말했다.

그러면서 "앤트로픽을 포함한 AI 기업들은 상업적 압력이나 경쟁, 자존심, 야망 등 옳은 일을 하는 데 반하는 동기를 가지고 있다"라며 "그렇기 때문에 교회 지도자들처럼 안전을 최우선으로 생각하고, 진지하고 사려 깊은 비판자가 되어줄 사람들이 나서주는 것이 매우 중요하다"라고 강조했다.

교황은 지난해 즉위하면서 자신의 이름을 레오 14세로 정한 것은 19세기 산업혁명 때 거대 기업들에 맞서 노동자들을 옹호했던 레오 13세 교황을 기리기 위한 것이라고 말한 바 있다. 또한 AI는 현대 사회의 산업혁명이며, 인간의 존엄성과 노동에 대한 도전적 과제를 던졌다고 밝혔다.

<월스트리트저널>은 "기술 업계는 레오 14세가 AI에 대한 우리의 사고방식을 바꾸고, AI가 발전해야 할 윤리적 틀을 형성하고 문화적 변화를 주도할 힘이 있다고 본다"라며 "교황은 아마도 현재 AI 분야에서 가장 중요한 인물일 것"이라고 짚었다.