[광화문에서/장윤정]‘AI 무기화’로 찾아온 또다른 ‘오펜하이머 모멘트’

장윤정 산업1부 차장

“우리는 인공지능(AI)이 인류에게 이로움을 주기를 원하지, 비인도적이거나 극도로 해로운 방식으로 사용되는 건 원치 않는다.”

구글 임직원 600여 명이 순다르 피차이 최고경영자(CEO)에게 국방부와의 AI 협력을 중단해 달라며 이렇게 지난달 말 공개서한을 보냈다. 자사 AI 모델 ‘제미나이’가 군사·감시 목적으로 활용될 가능성을 우려한 반발이었지만, 회사는 흐름을 바꾸지 않았다. 구글은 결국 미 국방부의 기밀 업무 환경에서 자사 AI를 활용할 수 있도록 하는 데 합의했다.

8년 전만 해도 선택은 달랐다. 2018년에도 구글은 미 국방부의 AI 드론 영상 분석 사업인 ‘프로젝트 메이븐’을 둘러싼 직원 반발에 부딪혔다. 당시 수천 명의 직원이 “AI를 전쟁에 이용해선 안 된다”고 반발하자, 결국 구글은 계약 갱신을 포기했었다.

한때 군사 프로젝트 참여를 철회했던 기업이 이제는 국가 안보 체계 구축에 직접 뛰어들고 있는 셈이다. 구글만의 변화가 아니다. 오픈AI, 아마존웹서비스, 팔란티어 등의 AI 기업들도 미국 국방부와의 협력을 빠르게 확대하고 있다. 기술 못지않게 ‘가치’를 이야기하고, “인류에게 이로운 AI”를 강조하던 실리콘밸리의 이상주의는 점점 흐려지고 있다. 생산성과 혁신의 상징처럼 여겨졌던 AI는 이제 국가 경쟁력과 군사력을 좌우하는 핵심 인프라로 바뀌고 있다.

이처럼 실리콘밸리가 ‘변모’한 원인으로 일각에선 중국과의 AI 패권 경쟁을 꼽는다. 중국이 AI를 국가 전략 산업으로 밀어붙이는 가운데 ‘딥시크’ 같은 저비용 고성능 모델이 등장하며 빅테크들도 충격을 받았다는 것. 생성형 AI가 단순한 생산성 도구를 넘어 국가의 군사·정보 우위를 결정할 전략 기술로 인식하기 시작했단 얘기다. 우크라이나와 중동에서 전쟁이 현실화된 것도 이들 기업의 인식 변화에 속도를 붙인 것으로 보인다. 팔란티어의 앨릭스 카프 CEO는 “미 해병대원이 더 나은 소총을 원한다면 우리는 그것을 만들어야 하며, 소프트웨어도 마찬가지”라며 기술 기업이 국가와 거리를 두던 시대는 끝났음을 노골적으로 드러낸다.

‘승자독식’의 시장이 될 것으로 점쳐지는 AI 시장의 무한경쟁도 기업들의 윤리적 망설임을 없앤 요인이다. “우리가 과연 이 일을 해야 하는가”라는 질문은 이제 “경쟁에서 살아남으려면 어쩔 수 없다”는 현실론에 밀려나고 있다. 과거 실리콘밸리에서 금기(禁忌)처럼 여겨졌던 군과의 밀착이 이제는 ‘애국’과 ‘생존 전략’으로 포장되고 있다.

하지만 이런 흐름을 바라보며 불안감도 엄습한다. AI 기업들은 “문제는 AI의 무기화 자체가 아니라 그것을 누가 어떻게 사용하느냐다”라고 말한다. 그러나 AI가 인간의 통제 아래에만 머물 것이라고 장담할 수 있을까. 빠르게 국가와 군사 체계 안으로 편입되고 있는 AI가 어떤 전장과 현실을 만들어 낼지 우리는 아직 확신하지 못한다. 우리는 AI의 발전 속도에는 감탄해 왔지만, 정작 그 기술이 어디로 향하고 있는지에 대한 질문에는 충분히 답하지 못해 왔다.

미국의 원자폭탄 개발 계획인 ‘맨해튼 프로젝트’를 이끌었던 물리학자 로버트 오펜하이머는 핵무기의 파괴력을 확인한 뒤 깊은 두려움과 후회에 사로잡혔다. 이른바 ‘오펜하이머 모멘트’다. AI의 ‘오펜하이머 모멘트’도 어쩌면 이미 시작됐을지도 모르겠다.

장윤정 산업1부 차장 yunjung@donga.com