비윤리적 AI의 비효율

1945년 여름, 뉴멕시코주 로스앨러모스를 비롯한 미국 곳곳에서 ‘맨해튼 프로젝트’가 진행됐다. 독일 나치의 파시즘에 맞선다는 명분으로 리처드 파인먼과 존 폰 노이만, 닐스 보어 등 당대의 천재 물리학자와 수학자들을 모아 핵무기를 개발하는 프로젝트였다. 미국과 영국 정부 등의 예산 20억달러(2023년 기준 약 42조원)가 투입됐다. 프로젝트를 이끈 물리학자 줄리어스 로버트 오펜하이머가 다른 과학자들을 프로젝트에 끌어들이며 한 설득의 논리는 이랬다. “이 프로젝트가 성공하면 전쟁이 끝날 것입니다.”

성공의 결과는 끔찍했다. 일본 히로시마 인구 34만3천여 명 중 10만여 명이 숨졌고, 나가사키 인구 24만여 명 중 7만4천여 명이 숨졌다. 대부분 민간인이었다. 오펜하이머는 이후 죄책감에 시달리며 원자폭탄보다 더 위력적인 수소폭탄 제조 프로젝트 참여를 거부했다가 간첩으로 몰린다. 크리스토퍼 놀런 감독의 ‘오펜하이머’는 이 이야기를 다룬 영화다.

2024년 10월7일이면 이스라엘이 팔레스타인 땅 가자지구를 침공한 지 1년이 된다. 이 전쟁에 인공지능(AI)이라는 이름으로 동원된 과학도 대부분 민간인을 학살하는 데 쓰이고 있다. AI가 광범위하게 활용된 사상 첫 전쟁으로 불릴 정도다. 이스라엘군의 무인기는 아기 울음소리와 여성의 비명을 방송한 뒤 이들을 돕기 위해 거리로 나오는 주민들을 조준 사격한다. 검문소에서는 안면과 생체 인식 기술을 활용해 무장세력을 색출한다며 민간인을 체포하는 일이 벌어진다. 도로·건물 등 각종 기반시설을 대상으로 하는 ‘가스펠’과 개별 인물을 대상으로 하는 ‘라벤더’, 집에 있는 무장세력 용의자를 탐지하는 ‘아빠는 어디에’와 같은 AI 프로그램들이 ‘자동’으로 목표물을 찾아 공격한다.( 1532호 표지이야기 ‘인공학살지능 “3살 아이 죽음까지 의도한 것”’)

지난 1년 동안 이스라엘군의 공격으로 4만 명 넘는 가자지구 주민이 숨졌다. 상황이 이런데도 오는 11월로 예정된 미국 대통령 선거에 민주당 후보로 나선 카멀라 해리스 부통령은 여전히 이스라엘에 대한 살상용 무기 지원 중단 요구에 침묵하며 “이스라엘은 스스로 방어할 권리가 있다”는 말만 되풀이하고 있다. 이 말은 “이 프로젝트가 성공하면 전쟁이 끝날 것”이라는 말처럼 공허하다.

AI는 태생적으로 전쟁과 관계 맺으며 성장했다. 제2차 세계대전이 한창이던 1940년대와 한국전쟁 이후 냉전이 본격화한 1950년대는 AI와 관련한 획기적인 연구 결과가 쏟아진 시기였다. 전쟁이 한창일 때는 이기기 위한 전략이라는 명분으로, 전쟁이 끝난 뒤에는 파시즘과 공산주의의 확산을 막겠다며 과학자들에게 전폭적인 재정 지원이 이뤄졌다. 이런 지원을 받은 노버트 위너와 같은 과학자들이 인문학을 비과학적이라고 폄하하며 기술관료주의와 실용주의 관점에서 학문과 학제를 재편했다.(1532호 AI 인문학) 극도의 효율성을 앞세워 사회를 한쪽 방향으로 통제하고 규범화하려는 우파의 논리가 여기에서 출발했다.

극도의 효율성을 앞세운 우파의 논리는 그러나, 역설적으로 전쟁에서 군인보다 민간인을 더 많이 죽음으로 몰아넣는 극도의 ‘비효율’을 낳고 있다. 1945년 8월 일본에 떨어진 두 차례의 원자폭탄이 그랬고, 2024년 가자지구를 떠돌아다니는 온갖 AI 군사장비도 그렇다. 언제까지 이런 비윤리를 반복할 것인가.

이재훈 편집장 nang@hani.co.kr

*‘만리재에서’는 편집장이 쓰는 칼럼입니다.