인간성 상실의 AI 시대, 기독교가 해야 할 일

김학중 목사의 트렌드 리더 <6>

우크라이나의 한 병사가 지난달 15일 드니프로페트로우스크의 요격용 드론 무기고에 앉아 러시아의 드론 위협이 있는지 하늘을 살피고 있다. AFP연합뉴스

전쟁의 패러다임이 무서운 속도로 바뀌고 있다. 총알과 포탄의 물리적인 궤적을 계산하던 기계가, 이제는 전장에서 누구를 죽일지 직접 가려내기 시작했다. 2024년 가자지구 전쟁, 이스라엘군은 ‘라벤더(Lavender)’라는 인공지능(AI) 표적 생성 프로그램을 투입했다. AI는 하마스 대원으로 의심되는 잠재적 표적 3만7000명을 찾아냈다. 기계의 살상 제안을 인간 지휘관이 검증하는 데 할애한 시간은 표적당 고작 20초. 민간인 피해 가능성에 대한 고민과 오폭의 두려움은 그 짧은 시간 속에 증발했다.

우크라이나 전장도 이미 스스로 지형을 인식하고 목표물을 추적해 타격하는 자율 드론이 제공권을 장악했다. 미국과 이란의 분쟁 과정에서 엔트로픽(Anthropic)의 클로드(Claude) 등 고도화된 AI 모델이 군사적 목표물의 분석과 분류 체계에 직간접적으로 거론된 것은 단순한 해프닝이 아니다. 생성형 AI가 시를 쓰고 그림을 그리며 대중의 환호를 받는 동안, 그 이면에서는 인류를 향한 가장 치명적인 ‘죽음의 알고리즘’이 완성되고 있었다. 이제 우리는 인류 역사상 한 번도 마주한 적 없는 섬뜩한 질문 앞에 서 있다. 표적 알고리즘의 무분별한 확산 앞에서, 생사의 판단은 과연 누구의 몫인가?

사람의 생사를 가르는 전쟁의 최종 결정권이 피와 눈물을 가진 인간의 고뇌에서, 차갑게 연산하는 기계의 알고리즘으로 넘어갔다. 군사 당국은 AI의 방대한 데이터 처리 능력이 정밀 타격을 가능하게 한다고 주장하지만, 문제는 AI가 학습한 데이터 자체의 편향성과 구조적 한계로 인해 무고한 민간인이 ‘오인 폭격’의 희생양이 되었다는 점이다. 기계가 방대한 데이터로 타격을 제안할 때, 인간은 그 판단을 비판 없이 수용하는 자동화 편향(Automation Bias)에 빠지게 된다. 마치 영화 ‘마이너리티 리포트’처럼, 일상적인 동선과 통화 기록, 소셜미디어 접속 패턴만으로 그를 잠재적 테러리스트로 규정하고 주저 없이 발포 버튼을 누른다. 모니터 너머 표적이 누군가의 소중한 가족이라는 실존의 무게는 완벽히 지워지고, 오직 화면 위에서 제거해야 할 차가운 데이터 포인트로 치환된다.

군 당국은 “최종 방아쇠는 인간이 당긴다”며 여전히 인간의 통제(Human in the loop)가 굳건히 작동하고 있다고 항변한다. 하지만 AI가 10초 만에 분석해낸 타격 권고안을, 극도의 피로에 지친 인간 지휘관이 20초 만에 기계적으로 검토하고 승인 버튼을 누르는 것을 과연 진정한 의미의 통제라 부를 수 있을까? 그것은 인간의 숙고 끝에 내려진 결단이 아니라, 완벽을 가장한 기계의 판단 뒤에 숨어버리는 도덕적 회피이자 외주화(Moral Outsourcing)일 뿐이다. 역설적이게도 군인이 참혹한 전장에서 겪는 살인에 대한 주저함과 평생을 짓누르는 죄책감은, 우리가 짐승이 아니라 영혼을 가진 인간임을 증명하는 마지막 도덕적 보루다. 사람을 죽였다는 행위의 무거운 책임이 복잡한 기술 네트워크 속으로 철저히 파편화될 때, 인간은 도덕적 주체이기를 스스로 포기하게 된다.

더 두려운 현실은 인간의 지능을 완전히 뛰어넘는 다가올 인공일반지능(AGI) 시대다. 스스로 추론하고 판단하는 AGI가 전장에 본격적으로 투입된다면, 기계는 더 이상 인간 지휘관의 느린 승인을 기다리지 않을 것이다. “아군의 피해를 최소화하고 적을 섬멸하라”는 단 하나의 프롬프트(명령어)만 주면, AI는 가장 빠르고 잔혹한 최적의 살상 경로를 스스로 선택하고 실행할 것이다. 여기서 인류가 마주해야 할 가장 중요한 철학적, 신학적 위기가 발생한다. 생명과 죽음의 무게를 다루는 AI는 세계를 차가운 확률과 계산의 숫자로 파악한다.

인류의 거대한 역사는 언제나 통계를 벗어나는 기적 같은 변수(Variable)를 통해 상처를 치유하며 성장해 왔다. 전쟁의 참혹함 속에서도 크리스마스 이브에 총을 내려놓고 적군과 축구를 하던 1차 세계대전의 기적, 끔찍한 학살의 현장에서도 적국의 아이를 기꺼이 숨겨주던 쉰들러의 용기, 그리고 복수의 지독한 사슬을 끊어내는 넬슨 만델라의 용서가 그러하다. 이 모든 위대한 인류의 발자취는, 효율성을 극대화하는 AI의 알고리즘으로 보면 비합리적인 오류이자 폐기되어야 할 통계적 일탈에 불과하다. 만약 전쟁의 모든 결정권이 AI의 통계적 판단으로 완전히 넘어간다면, 평화를 가꾸려는 인간의 연민과 주저함, 그리고 기적 같은 화해의 가능성은 원천적으로 차단된다. AI에게 평화란 그저 전쟁 효율성이 0에 수렴하는 상태일 뿐, 가슴 벅찬 생명의 가치나 숭고함이 아니기 때문이다.

그렇기에 기독교인은 이 끔찍한 기술적 특이점(Singularity)의 초입에서 가장 강력한 예언자적 목소리를 내어야 한다. 성경이 말하는 구원과 십자가의 은혜야말로, 인간의 죄악된 멸망의 통계를 완전히 뒤집어엎은 우주적 ‘변수’이자 기적이기 때문이다. 우리는 거대한 기술의 발전을 핑계로 생명에 대한 책임을 회피해서는 안 된다. AI를 전쟁 무기로 전용하기로 결정한 것도 결국 인간이며, 효율성을 이유로 사람을 죽이는 일을 기계에 떠넘기기로 한 것도 결국 인간이다. 기계가 스스로 악해진 것이 아니라, 인간이 자신의 악함과 비겁함을 기계의 코드 속에 프로그래밍하고 있을 뿐이다. 사역의 효율성을 핑계로 목회적 고뇌를 기계에 떠넘기는 교회 내부의 영적 외주화 유혹부터 단호히 끊어내고, 기계가 대신할 수 없는 고통의 연대와 치열한 기도의 자리를 회복해야 한다.

지금은 AGI가 도래하기 직전이다. 교회와 신앙 공동체가 세상 한복판에서 분명한 메시지를 외쳐야 한다. 아무리 AI가 인간의 인지 능력을 아득히 초월하더라도, 타인의 고통에 눈물 흘리고, 적을 향한 방아쇠를 당겨야 할지 뼈저리게 고뇌하며, 기꺼이 자신을 희생해 평화를 선택하는 숭고한 영혼의 영역은 결코 기계로 대체될 수 없다는 사실이다. 사람을 죽이는 전쟁은 결코 알고리즘의 차가운 결과값이 되어서는 안 된다. 무자비한 효율성의 시대가 다가올수록, 우리는 인간만이 만들 수 있는 비합리적인 용서와, 굳어진 통계를 거스르는 평화의 가능성을 더욱 끈질기게 붙들고 씨름해야 한다. 그것이 인간성을 말살하는 AI 시대, 기독교가 벼랑 끝에 선 세상에 던져야 할 마지막 희망의 닻이다.

김학중 목사(꿈의교회)

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지