“인류위협” 핵 앞에서 이렇게 뭉쳤던 세계…“AI 위험” 경고 쏟아져도 이젠 안 뭉친다

1955년 7월 영국 런던 캐스턴홀에서 철학자 버트런드 러셀(오른쪽)이 핵무기 위험성을 경고하고 있다. 선언에는 아인슈타인을 비롯한 과학자 11명이 동참했다. [사진 퍼그워시]

미국·소련이 경쟁적으로 핵무기를 개발하던 1955년 7월. 영국 철학자 버트런드 러셀이 런던 캐스턴홀의 기자회견장에 섰다. 러셀과 ‘세기의 물리학자’ 알베르트 아인슈타인을 비롯한 11명의 과학자가 서명한 선언문을 읽어내려 갔다.

“핵무기는 인류의 존속 자체를 위협한다. 우리는 각국 정부가 서로 간 분쟁을 해결할 평화적 수단을 찾을 것을 촉구한다.”

선언문을 계기로 1957년 캐나다 노바스코샤 퍼그워시에서 과학자들의 회의가 열렸다. 이때 만든 대화의 통로가 훗날 핵 군축을 둘러싼 국제 협상의 토대가 됐다. 1968년 유엔이 채택한 핵확산금지조약(NPT)의 시작이었다.

2026년에는 인류에 대한 경고가 핵에서 인공지능(AI)으로 바뀌었다. 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO가 최근 일제히 “AI가 인류의 안보를 위협할 수 있다”고 경고하면서다. 빌 게이츠 마이크로소프트(MS) 창업자는 지난달 26일(현지시간) “AI의 위협을 제어하려면 NPT 같은 국제기구를 만들어야 한다”고 주장했다. ‘AI판 NPT’가 가능할까. 영국 파이낸셜타임스(FT)는 최근 기사에서 “AI는 핵과 다르다”고 짚었다.

먼저 핵은 국가가, AI는 민간이 주도한다. 핵무기는 막대한 자본과 특수 시설이 필요해 국가가 개발·생산·보유·통제를 한다. 하지만 AI는 오픈AI·구글·앤트로픽·메타는 물론 중국 문샷 등 민간 기업이 개발을 주도한다. 국가 간 합의만으로 통제하는 데 어려움이 따를 수밖에 없다. 또 순전히 군사 분야에서 위협이었던 핵과 달리 AI는 실생활에 폭넓게 적용하는 기술이다. 금지 영역을 어디까지로 정할지 불분명하다.

핵이 현재 진행형 위협이라면, AI는 아직 가능성에 불과하다는 점도 AI판 NPT 출범의 긴급성을 떨어뜨리는 요인이다. 핵무기는 1948년 히로시마·나가사키 원폭 이후로 공포에 대한 공감대가 형성됐다. 반면에 AI는 대규모 사이버 공격, 생화학 무기 개발 지원, 통제 불능 등 예상되는 위협이 아직 현실화하지 않았다. FT는 “NPT 추진을 본격화한 계기는 1962년 쿠바 미사일 위기였다. 인류에게도 ‘AI판 쿠바 미사일 위기’가 필요할까”라고 반문했다.

무엇보다 AI는 핵과 달리 “상대보다 먼저 개발하면 경제적 이익을 얻을 수 있다”는 경쟁 유인이 뚜렷하다. 군사적 우위를 선점하려는 경쟁이 핵무기 개발의 동력이었다면, AI 개발 경쟁에는 안보 우위뿐 아니라 막대한 수익까지 걸려 있다. 로이터통신은 지난 7일 “AI 투자가 미국 경제를 떠받치고 있기 때문에 트럼프 정부가 강력한 규제를 꺼린다”고 분석했다.

NPT도 러셀과 아인슈타인의 선언에서 출범하기까지 10년이 넘게 걸렸다. AI를 규제하더라도 당장 핵무기처럼 NPT 같은 국제 조약을 통한 방식은 쉽지 않다. 다만 시도는 계속돼야 한다는 의견이 점차 힘을 얻고 있다.

FT는 “디지털 시대를 위한 새로운 ‘퍼그워시 회의’가 해답이 될 수 있다”며 “IAEA와 비슷한 국제기구를 만들어 위성으로 AI 데이터센터를 감시하고, 현장 사찰을 하는 작업을 시작해야 한다”고 제언했다. 로이터는 “독립적인 규제 기관이 AI의 개발·훈련 과정을 감시하고, 안전하지 않은 AI 모델은 금지할 수 있어야 한다”고 주장했다. 재앙이 발생하기 전 새로운 규칙을 만들어야 한다는 것이 핵 군축이 AI에 주는 교훈이다.

김기환 기자