AI 시대 경고한 교황…“바벨탑 만들 건지 선택 앞둬”

교황 최고수준 공식문헌서 제기
“AI는 반인간적 비전을 정상화”
‘소수 영향력있는 집단’ 빅테크 비판

교황 레오 14세 ‘AI는 새로운 바벨탑 될 수 있다’ 경고 [그림=챗GPT]

가톨릭 교회의 수장인 교황 레오 14세가 인공지능(AI)을 성경 속 ‘바벨탑’에 비유하며 강도 높은 규제 필요성을 제기했다. AI가 인간을 효율 중심 시스템의 부품으로 전락시키고 소수 빅테크 기업에 막대한 권력을 집중시키고 있다며 인간 존엄을 지키기 위한 새로운 사회적 대응이 필요하다고 경고한 것이다. AI를 산업혁명에 비견하며 노동·전쟁·불평등 문제를 동시에 제기했다는 점에서 전 세계 AI 규제 논의에 적지 않은 영향을 미칠 전망이다.

25일(현지시간) 레오 14세는 이날 공개한 첫 회칙 ‘마니피카 후마니타스’에서 “AI는 반인간적 비전을 정상화할 위험이 있다”고 밝혔다. 회칙은 교황이 교회와 세계를 향해 발표하는 최고 수준의 공식 문헌으로, 향후 교황 재임 기간의 철학과 방향성을 담는다.

레오 14세는 AI 시대를 인간이 “바벨을 건설할지, 예루살렘을 재건할지 선택해야 하는 순간”이라고 표현했다. 성경 속 바벨탑은 인간의 오만과 권력 집중, 획일화를 상징하는 존재다. 반면 예루살렘 재건은 공동체와 연대를 통해 사회를 복원하는 과정이라고 설명했다. 그는 “문제는 기술 자체가 아니라 누가 AI를 설계하고 통제하느냐”라고 강조했다.

특히 이번 회칙은 실리콘밸리 빅테크 기업을 사실상 겨냥했다는 평가가 나온다. 레오 14세는 “AI는 이미 경제적 자원과 데이터, 기술력을 가진 이들의 힘을 더 키우는 방향으로 작동하고 있다”며 “소수의 영향력 있는 집단이 정보와 소비, 민주주의와 경제 질서까지 자신들에게 유리한 방향으로 움직일 수 있다”고 경고했다.

그는 AI가 노동시장과 인간 삶을 근본적으로 바꾸고 있다고도 진단했다. AI를 ‘새로운 인지 산업혁명’이라고 규정하며 인간의 차이를 지우고 사람을 데이터와 성과로만 평가하는 방향으로 흘러가고 있다고 우려했다. 기술 발전 과정에서 인간의 한계와 불완전함 자체를 제거하려 해서는 안 된다는 것이다.

AI 기반 무기 시스템에 대한 경고도 나왔다. 레오 14세는 “인간의 통제를 벗어난 자율무기 체계가 등장하고 있다”며 “AI가 전쟁을 더 비인간적이고 통제 불가능한 방향으로 만들 수 있다”고 지적했다.

교황은 “윤리라는 추상적 구호만으로는 충분하지 않다”며 “강력한 법적 규제와 독립적인 감독 체계가 필요하다”고 주장했다. 또 AI 데이터센터 확산에 따른 전력 소비와 환경 피해 가능성도 함께 언급했다.

이번 회칙은 지난 10여 년간 이어진 바티칸과 실리콘밸리 간 AI 윤리 논의를 토대로 작성됐다. 발표 현장에는 AI 스타트업 앤스로픽 공동창업자이자 안전 연구자인 크리스토퍼 올라도 참석했다. 올라 역시 “AI 기업들은 상업적 압력과 경쟁, 야망에 영향을 받을 수밖에 없다”며 “기술 기업 바깥에서 비판적 목소리를 내는 존재가 필요하다”고 말했다. [실리콘밸리 원호섭 특파원]