[사유와 성찰]‘킬러로봇’ 개발과 ‘오펜하이머 순간’

“10년 이내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 본다.” 인공지능(AI) 딥러닝 기술의 대부 제프리 힌턴은 최근 한 언론사 인터뷰(니혼게이자이신문, 3·10)에서 경고했다. 힌턴은 이미 작년 4월 AI 기술의 위험성을 알리기 위해 구글에서 사직했다. 누구보다 앞서 AI 기술을 개척하면서 이해도가 높은 장본인이 AI 기술의 악용 가능성에 대해 언급한 것이라 그냥 지나치기가 어렵다. 세계 각국이 AI 기술에 대한 윤리적 규제와 감시를 소홀히 하는 사이에, 이른바 ‘자율 무기체계(Autonomous Weapon System·AWS)’라는 이름으로 AI 기술을 탑재한 살상 무기 즉 ‘킬러로봇(Killer Robot)’들이 기다렸다는 듯이 등장하고 있다. 그 형태도 공중드론과 해상드론에서부터 시작해 휴머노이드까지 다양하다. ‘킬러로봇’이란 인간 개입이 없는 상태에서 자율성을 갖고 목표물을 탐지, 추적, 공격할 수 있는 AI 기반의 군사로봇을 말한다.

최근 미국 국방고등연구계획국(DARPA)에서는 AI 전투기와 유인 전투기 간의 인접 공중전 장면을 공개했다. 물론 훈련이었지만 최초의 ‘AI 대 탑건’의 대결이었다고 할 수 있다. 수많은 가상 전투 데이터를 딥러닝으로 학습한 AI 전투기가 유인 F-16을 상대로 방어와 공격 기동을 자유자재로 하는 모습을 보였다. 어느 쪽이 이겼는지는 공개하지 않았지만, 연구 과정 중 가상 대결에서는 AI 전투기가 이겼다고 밝혔다. 결과 비공개 이유에 대해서는 해석이 분분하지만, AI 전투기의 승리였다면 즉각 윤리적 문제 제기로 이어질 것이고, 연구 중단 압력을 받았을 것이다. 만약 이대로 AI 전투기가 인간 조종사들의 공중전 데이터를 지속해서 학습한다면 그 결과는 뻔할 것이다.

이것은 경이로움으로 끝날 문제가 아니다. 예를 들어, 무기 통제 권한까지 AI에 맡기는 것을 과연 받아들일 수 있을까. 당국자들에 따르면, 무기 발사는 인간의 통제에 맡겨질 것이지만, 이 기술이 궁극적으로 가닿을 지점은 명확하다. 결국은 인간이 전쟁에서 물리적 개입을 최소화하면서 AI 힘을 빌려 살상력은 극대화하겠다는 의도다. 인간은 ‘킬러로봇’을 통해 의식적이든 무의식적이든 AI의 자율성 뒤로 숨으려는 것이다. 즉 인간은 살인에 대한 죄책감을 은폐하기 위해 ‘킬러로봇’을 만들어낸다고 할 수 있다. 하지만 아무리 그 폭력성과 비윤리성을 은폐하더라도 인간을 대신해 살상을 저지르는 ‘킬러로봇’의 행위에 대한 최종 책임이 그 최초 의도를 낸 인간을 피해 갈 순 없다.

이렇듯 날로 고도화되어 가는 AI의 군사적 사용에 대한 규제를 논의하기 위해 지난 4월28일에는 143개국 관계자들이 오스트리아 빈에 모였다. 이 회의에서 알렉산더 샬렌베르크 오스트리아 외교장관의 발언이 주목받았다. “지금 우리는 오펜하이머 순간을 다시 맞이하고 있다.” 인류에게 돌이킬 수 없는 재앙적 발명이 되어버린 원자폭탄처럼 AI 기술을 대규모 살상 무기로 전용하려는 시도가 시작되었다는 경고이다.

불살생(不殺生)을 근본으로 삼는 불교의 관점에서는 인간의 업(業·Karma)을 신체의 동작, 입으로 말하는 것, 마음에 의도를 내는 것으로 짓는다고 본다. 의도 혹은 동기만으로도 업을 쌓게 되는 것이다. 인간이 AI를 빌려 살의와 폭력을 은폐하더라도 그 악업이 사라지는 것은 아니다. ‘킬러로봇’에 대한 연구 활동 자체가 일종의 살인 예비 행위로서 이해되어야 하는 이유이기도 하다.

최근 각국에서 벌어지는 전쟁의 광기 속에서 ‘킬러로봇’의 도입과 활용을 정당화하려는 움직임이 은밀하게 진행되고 있다. 이 순간에도 이스라엘군은 팔레스타인 무장단체 하마스 소탕을 명분으로 최후의 피란처인 라파를 포위하고 진격을 준비한다. 이스라엘군에 공격 개시의 최대 걸림돌은 민간인 살상에 대한 국제적 비난과 정치적 부담일 테다. 만약 향후 유사한 입장에 놓인 교전 당사국에 ‘킬러로봇’이란 선택지가 있다면, 어떤 선택을 하게 될까. 더 늦기 전에 죽어가는 생명에 대한 최소한의 양심을 담아 ‘킬러로봇’의 비윤리성과 폭력성을 고발하며 단호히 그 개발 중단을 촉구한다.

보일 스님 해인사 승가대학 학장

보일 스님 해인사 승가대학 학장