“전쟁에 AI 안 돼” 반발에도…구글, 美국방부 손잡았다
“자율무기·대규모 감시 금지” 조항에도 논란 계속
구글이 임직원 수백 명의 반대에도 미국 국방부 기밀 업무에 인공지능(AI) 모델을 제공하기로 했다.
미국 일간 월스트리트저널(WSJ)과 IT 전문매체 디인포메이션은 28일(현지시간) 소식통을 인용해 구글이 국방부의 기밀 업무에 자사 AI 모델 '제미나이'를 사용할 수 있도록 하는 계약을 맺었다고 보도했다.
이번 계약에 따라 국방부는 '모든 합법적인 목적'에 구글의 AI를 사용할 수 있으며, 정부 요청이 있을 경우 구글이 AI 안전 설정 등을 조정하도록 규정한 것으로 전해졌다.
계약서에는 AI 시스템이 적절한 인간의 감독 없이 미국 내 대규모 감시나 자율 무기를 목적으로 사용돼서는 안 된다는 조항도 포함됐다.
다만 동시에 "정부의 합법적인 운영상 의사 결정을 통제하거나 거부할 권리를 부여하지 않는다"는 문구도 들어가 논란이 이어지고 있다.
법·AI연구소의 찰리 불록 선임연구원은 해당 조항이 단순한 원칙 수준에 불과해 이를 어겨도 계약 위반으로 보기 어렵다고 지적했다.
구글 공공부문 관계자는 "국가 안보를 지원하기 위해 AI 서비스와 인프라를 제공하는 기업 컨소시엄의 일원이 된 것이 자랑스럽다"며 "대규모 감시나 자율 무기 개발에 사용돼서는 안 된다는 민관 합의를 계속 지켜나가겠다"고 밝혔다.
국방부는 기존에 기밀 업무에 사용하던 앤트로픽의 AI 모델 '클로드'를 퇴출한다고 지난 2월 발표한 뒤 대체 모델을 찾고 있었다.
이번 계약으로 국방부는 오픈AI의 챗GPT와 xAI의 그록에 이어 구글 제미나이까지 활용할 수 있게 됐다.
앞서 구글 임직원 600여 명은 순다르 피차이 최고경영자에게 공개서한을 보내 국방부 기밀 업무에 AI를 제공하지 말라고 요구했지만, 계약 체결을 막지는 못했다.