교황이 던진 ‘AI 시대의 묵직한 질문들’ [오철우의 과학풍경]

지난 5월25일 바티칸에서 가톨릭 교황 레오 14세가 즉위 이후 첫번째 사회교리 회칙으로 ‘마그니피카 후마니타스’(Magnifica humanitas)를 발표했다. 회칙에는 인공지능 기술 권력의 위험을 경고하면서 인공지능 이점이 인간 가치와 공동선을 위해 설계되고 사용되어야 한다는 내용이 주로 담겼다. AP 연합뉴스

오철우 | 한밭대 강사(과학기술학)

한때 천년 넘게 중세 유럽의 질서와 세계관을 지배했던 오래된 권력이 21세기 새로운 질서처럼 떠오르는 디지털 기술 권력을 향해 묵직한 질문을 던졌다. 지난달 가톨릭 교황 레오 14세가 밝힌 사회교리 회칙 ‘마그니피카 후마니타스’(위대한 인간성) 이야기다. 전세계 주교와 신자들에게 보낼 이 회칙은 인공지능(AI)에 관한 기대와 우려, 인간다움의 미래에 관한 교황의 시선을 담았다.

얇은 책 분량의 회칙은 종교적 훈화와 도덕적 권고 수준일 것이라 생각하기 쉽다. 하지만 공개된 회칙을 읽어보면, 짐작과 달리 오늘날 학계와 시민사회에서 한창 논의되는 이른바 ‘인공지능 인문학’의 쟁점들이 가톨릭 교리 안에서 자세히 다뤄지고 있음을 볼 수 있다. 가짜 뉴스와 정치 양극화부터 기계와 인간의 관계, 빅테크의 독점 지배, 노동과 실업, 알고리즘 종속, 데이터 식민주의, 자율무기와 전쟁 위험까지 현실 사회의 걱정거리는 또한 교황청의 걱정거리였다.

무엇보다 회칙은 기술 진화의 길이 따로 있고 그것이 인간 사회의 미래를 결정한다는 기술결정론을 줄곧 배격한다. 기술이 도덕적으로 중립이라는 오래된 오해도 의심한다. 기술의 미래는 그저 다가오는 게 아니라 우리가 설계하고 만들어가는 과정임을 내내 강조한다.

성경에 등장하는 두가지 건설 이야기의 비유가 회칙의 중심축을 이룬다. 인간의 오만과 욕망에서 비롯해 결국 파멸과 분열을 낳은 바벨탑 같은 건설에 나설 것인가? 아니면 폐허가 된 예루살렘의 재건처럼 상생과 공존을 위한 건설로 나아갈 것인가?

빅테크가 지배하는 오늘날 인공지능 생태계와 관련해, 소수 기술 엘리트가 지배하는 테크노크라시(기술관료제)의 위험을 날카롭게 지적한 점도 눈에 띈다. 회칙은 도덕적인 인공지능 개발 노력만으로 충분하지 않다고 단언한다. 데이터와 인프라, 컴퓨팅 파워를 지배하는 소수 권력이 사회 규칙을 결정한다면, 그들의 선택이 알게 모르게 불가피한 미래처럼 강요될 수 있다. 그래서 교황은 기술 권력을 제어할 견고한 법제도, 독립적인 감독, 시민 교육, 책임 정치가 절실하다고 강조한다.

회칙은 기술 권력의 밑바탕에 깔린 기술 예찬 이데올로기도 지적한다. 인간 육체와 정신 능력을 증강하려는 기술 열망, 더 나아가 인간과 기계가 융합하는 신인류의 출현을 희구하는 기술 맹신의 일부 사상은 결국 인간다움의 가치를 훼손하고 불평등을 정당화하는 이데올로기로 작동할 수 있다고 경고한다.

갈릴레오 종교재판으로 상징되는 교황청의 이미지는 오랫동안 과학기술에 무지한 채 시대 변화에 둔감한 권력으로 기억됐다. 그러나 오늘날 바티칸은 1936년 이후 교황청 과학원을 따로 운영하며 첨예한 과학기술 문제에 참여해 현실적인 목소리를 내고 있다. 이번 회칙도 지난 10년 동안 교황청이 주관한 ‘미네르바 대화’라는 전문가 토론 프로그램의 결과로 나올 수 있었다.

어쩌면 우리에게 정말 중요한 질문은 ‘무엇을 어디까지 만들 수 있나’보다 ‘무엇을 위해 어떻게 설계할까’일 것이다. 레오 14세의 회칙은 현기증 나는 인공지능 발전 앞에서 놓치기 쉬운 질문을 다시 되새기게 한다.