레오 14세 교황의 'AI 회칙', 깊이 공감 하면서도 불안이 남는 이유

인류의 문제는 늘 기술이 아니라 욕망이다

[이종범 기자]

▲ 이탈리아 카스텔 간돌포에 있는 교황 관저 밖에 모인 사람들에게 손을 흔드는 레오 14세 교황. 2026.5.26 ⓒ 로이터=연합뉴스

최근 레오 14세 교황이 발표한 회칙 <위대한 인간성>(Magnifica Humanitas)이 국제 사회의 주목을 받고 있다. 많은 언론은 이 문서의 부제가 '인공지능 시대의 인간 보호'라는 점에 주목하며 이를 흔히 'AI 회칙'이라고 부른다. 실제로 이 문서는 인공지능 시대에 인간 존엄을 어떻게 보호할 것인가를 정면으로 다룬다. 그러나 이번 회칙은 갑작스럽게 등장한 문헌이 아니다. 교황청은 이미 수년 전부터 AI의 위험성과 윤리 문제를 반복해서 경고해 왔다.

흥미로운 점은 교황청의 문제 제기가 단순한 기술 공포나 보수적 반기술주의와는 다르다는 사실이다. 교황청은 AI 자체를 악으로 규정하지 않는다. 오히려 교황청은 AI가 인간을 위해 봉사해야 한다고 강조한다. 문제는 기술 자체가 아니라, 인간을 대체하거나 지배하려는 권력의 방향성에 있다는 것이다.

그 출발점은 교황청 산하 생명학술원이 2020년 발표한 <로마 AI 윤리 선언>(Rome Call for AI Ethics)이었다. 이 문서는 교황청이 처음으로 AI 윤리를 국제 사회에 체계적으로 선언한 문헌이었다. 당시 교황청은 아이비엠(IBM)과 마이크로소프트(Microsoft) 같은 글로벌 기업들과 함께 '인간 중심 AI'라는 개념을 제시했다. 문서는 투명성, 책임성, 공정성, 개인정보 보호 같은 원칙을 강조했다. 특히 교황청은 '알고리즘 윤리(algor-ethics)'라는 표현을 적극적으로 사용하면서, 알고리즘 역시 인간 사회의 윤리적 통제를 받아야 한다고 주장했다. 교황청은 AI를 단순한 계산 기계로 보지 않았다. 오히려 알고리즘이 인간 사회의 가치관과 권력 구조를 반영한다고 보았다. 다시 말해 AI는 결코 가치중립적이지 않다는 것이다. 곧 AI와 알고리즘은 윤리적 성찰의 대상이 되는 것이다.

이러한 문제 의식은 프란치스코 교황 재임 시기에 더욱 선명해졌다. 프란치스코 교황은 2024년 세계 평화의 날 담화 <인공지능과 평화>(Artificial Intelligence and Peace)에서 AI와 전쟁의 결합을 정면으로 경고했다. 그는 인간의 개입 없이 기계가 살상 결정을 내리는 자율무기 체계가 인간 존엄의 원칙을 무너뜨릴 수 있다고 보았다. 또한 딥페이크와 가짜뉴스가 민주주의를 위협하고, 알고리즘이 인간의 감정과 정치적 성향을 조작할 수 있다고 우려했다. 오늘날 세계 곳곳에서 벌어지는 극단주의와 정치적 양극화를 생각하면 이러한 경고는 결코 과장이 아니다.

교황청의 AI 담론은 이후 더욱 철학적 차원으로 발전했다. 2025년 신앙교리부와 문화교육부가 공동 발표한 문헌 <옛것과 새것>(Antiqua et Nova)은 사실상 교황청의 AI 철학 선언문이라고 부를 만한 문서였다. 이 문서에서 교황청은 AI는 인간 지능이 아니라고 분명히 선언했다. AI가 아무리 정교해져도 인간의 의식과 자유, 도덕성과 영혼을 가질 수 없다는 것이다. 인간은 단순한 정보 처리 시스템이 아니라 관계를 맺고 의미를 추구하며 책임을 지는 존재라고 교황청은 강조했다. 따라서 인간을 데이터 처리 기계로 환원하려는 시도는 인간 존재 자체를 왜곡하는 일이라는 것이다.

이 문서는 동시에 AI 시대의 경제 문제도 정면으로 다루었다. 교황청은 소수 빅테크 기업들이 데이터와 알고리즘을 독점하는 현실을 우려했다. AI 기술이 노동 양극화와 디지털 식민주의를 심화시킬 수 있다는 경고도 함께 제기했다.

이번에 발표된 회칙 <위대한 인간성>은 이러한 흐름의 연장선 위에 있다. 레오 14세 교황은 AI를 단순한 산업 기술이 아니라 인간 문명 전체를 재편할 구조적 힘으로 바라본다. 특히 그는 인간 노동의 가치가 붕괴되는 문제를 강하게 우려한다. 산업혁명 시기 노동 착취 문제를 다뤘던 레오 13세 교황의 회칙 <새로운 사태>(Rerum Novarum)가 19세기 사회교리의 출발점이었다면, <위대한 인간성>은 AI 시대의 새로운 사회교리 선언으로 읽힌다. 그래서 일부 평론가들은 이 회칙을 "21세기 AI 시대의 노동 헌장"이라고 부른다.

1891년 레오 13세가 <새로운 사태>를 발표했을 당시 세계는 산업혁명의 충격 속에 있었다. 공장은 생산성을 폭발적으로 끌어올렸지만 노동자는 기계 부속품처럼 취급받았다. 장시간 노동과 아동 노동, 빈곤과 도시 슬럼화는 자본주의의 어두운 그림자였다. 당시 교황은 자본주의 자체를 부정하지는 않았지만, 인간을 단순한 생산 도구로 취급하는 자본의 탐욕을 강하게 비판했다. 그는 노동의 존엄성과 인간의 가치를 강조하면서 시장이 인간 위에 설 수 없다고 선언했다.

그러나 이후 역사는 전혀 다른 방향으로 흘러갔다. 자본주의는 멈추지 않았고 오히려 더욱 정교하고 거대한 시스템으로 발전했다. 대량생산 체제와 금융 자본주의, 세계화와 신자유주의가 차례로 등장했다. 시장의 자유는 거의 절대적 가치처럼 받아들여졌고 인간 사회는 점점 더 숫자와 효율 중심으로 재편되었다. 그 흐름의 상징적 결과 가운데 하나가 바로 2008년 금융위기였다. 원래 금융은 실물경제를 돕기 위한 도구였지만, 파생상품과 레버리지 금융은 끝없는 이익 추구 속에서 스스로 거대한 괴물이 되었다. 실체 없는 숫자 게임이 세계 경제를 뒤흔들었고 평범한 사람들의 삶은 하루아침에 무너졌다. 인간이 만든 도구가 인간을 지배하는 순간이었다.

바로 이 지점에서 레오 14세 교황의 회칙은 중요한 통찰을 던진다. AI 역시 같은 길을 걸을 가능성이 높기 때문이다. AI의 위험은 기술 자체보다 그것을 독점하고 통제하려는 인간의 욕망에서 비롯된다. AI는 본래 인간을 돕기 위한 도구다. 의료를 개선하고 노동을 줄이며 지식을 확장하고 생산성을 높일 수도 있다. 문제는 그것이 자본과 권력의 논리 속으로 들어가는 순간이다.

오늘날 AI 경쟁은 이미 '인류 공동의 발전'보다는 시장 독점과 데이터 독점, 군사적 우위와 정치적 영향력 확대, 초과 이윤 확보라는 방향으로 흘러가고 있다. 이 흐름은 산업혁명 이후 자본주의가 걸어온 길과 놀라울 정도로 닮아 있다. 처음에는 인간을 풍요롭게 할 기술로 등장했지만, 결국 소수의 자본이 기술을 독점하면서 불평등과 지배 구조를 강화했던 역사 말이다.

그래서 레오 14세 교황의 회칙을 읽으며 한편으로는 깊은 공감을 느끼면서도 다른 한편으로는 불안이 남는다. 교황은 AI 시대의 위협 앞에서 인간 존엄성과 공동선, 연대와 민주주의 같은 전통적 가치를 강조한다. 물론 그것들은 중요하다. 어쩌면 인간 문명을 지탱하는 마지막 윤리적 방파제일지도 모른다. 그러나 냉정하게 말하면 인류는 이미 비슷한 경고를 들은 적이 있다. 레오 13세 교황 역시 천민자본주의에 맞서 인간 존엄성을 외쳤지만, 이후 세계는 더욱 거대한 자본주의 체제로 나아갔다. 인간은 끝없는 성장과 이윤 추구를 멈추지 않았다.

따라서 지금 필요한 것은 추상적 윤리 선언만이 아니다. 실제로 작동할 수 있는 제도적 장치가 필요하다. 무엇보다 AI 생산수단에 대한 민주적 통제가 중요하다. 현재 AI 인프라는 극소수 기업과 국가에 집중되고 있다. GPU와 데이터센터, 클라우드와 초거대 모델을 소유한 집단이 미래 경제를 지배할 가능성이 크다. 이는 단순한 시장 경쟁이 아니라 새로운 봉건제에 가까운 구조다. 공공 AI 인프라와 사회적 지분 참여 모델 같은 논의가 필요한 이유도 여기에 있다. 기본소득(basic income)에 대한 진지한 논의도 이와 관련되지 않을 수 없다.

AI 시대에는 경제 구조 자체도 달라질 수밖에 없다. 과거 산업혁명 시대에는 노동조합과 복지국가를 통해 일정 수준의 분배 구조를 만들 수 있었다. 그러나 AI 시대에는 노동 자체가 약화될 가능성이 크다. 그렇다면 기존의 임금 중심 사회 역시 유지되기 어렵다. AI 배당금과 디지털 공공기금, 데이터 사용료 같은 새로운 경제 구조를 고민해야 하는 이유가 여기에 있다.

근본적으로 인간의 가치를 생산성과 효율만으로 판단하는 문명 자체를 재검토해야 한다. AI가 인간보다 더 효율적으로 생산하는 시대가 온다면 인간은 무엇으로 자신의 존엄성을 증명할 것인가. 앞으로는 돌봄과 공동체, 예술과 시민 활동 같은 비시장적 가치들이 더욱 중요해질 가능성이 크다. 교육 역시 단순한 경쟁력과 생산성 중심 구조를 넘어 공감 능력과 윤리적 판단, 공동체 의식을 회복하는 방향으로 바뀌어야 한다.

문제는 여기서 끝나지 않는다. 인류는 과학기술에서는 비약적인 발전을 이루었지만, 도덕성에서는 과연 얼마나 발전했는지 확신하기 어렵다. 공자와 부처, 소크라테스와 예수에 이르기까지 인류는 수천 년 동안 윤리를 가르쳐 왔다. 그러나 인간은 여전히 전쟁과 탐욕, 권력 추구를 반복한다. 과학기술은 핵무기와 AI 문명으로 발전했지만 인간의 폭력성과 부족주의는 놀라울 정도로 그대로 남아 있다.

그 이유는 기술과 도덕의 발전 방식이 서로 다르기 때문이다. 기술은 축적된다. 새로운 발견은 이전 발견 위에 쌓인다. 그러나 도덕성은 그렇게 축적되지 않는다. 인간의 윤리는 욕망과 권력 본능, 공포와 집단 심리와 끊임없이 충돌한다. 현재 우리가 '이성적 문명'이라고 부르는 질서 역시 그 본능 위에 얇은 윤리적 껍질을 덧씌운 것에 가까울 수 있다. 경제 위기와 전쟁, 정치 선동 같은 극단 상황이 오면 그 껍질은 언제든 쉽게 벗겨진다. 20세기 독일처럼 높은 과학기술과 문화 수준을 가진 사회조차 순식간에 야만으로 무너질 수 있었던 이유도 여기에 있다.

그래서 AI 시대에는 인간의 선의만을 믿는 접근으로는 부족하다. 민주주의 역시 인간을 완전히 신뢰하지 않는 데서 출발했다. 권력을 분산하고 서로 감시하게 만드는 이유는 인간이 언제든 타락할 수 있기 때문이다. AI 시대에도 마찬가지다. 초거대 기술 기업과 국가 권력이 AI를 독점하지 못하도록 국제 규범과 공공 감시 체계를 구축해야 한다.

결국 레오 14세 교황의 회칙 <위대한 인간성>이 던지는 가장 근본적인 질문은 기술이 아니라 인간에 관한 것이다. 교황은 인간이 '이마고 데이(Imago Dei)', 곧 신의 형상으로 창조된 존엄한 존재라고 강조한다. 그러나 인류는 이미 산업혁명과 금융자본주의의 역사를 통해, 인간이 얼마나 쉽게 탐욕과 권력 욕망에 사로잡히는 존재인지를 반복해서 보여주었다. 이제 인간은 신에 가까운 AI 기술까지 손에 넣고 있다. 그래서 AI 시대의 진짜 질문은 "얼마나 강력한 AI를 만들 수 있는가"가 아니다. 진짜 질문은 "그 강력한 기술을 손에 쥔 인간을 누가 통제할 수 있는가"이다. 어쩌면 레오 14세 교황이 진정으로 경고하는 대상은 AI 자체가 아니라, AI를 통해 끝없이 증폭될 인간의 욕망인지도 모른다.