‘AI 오용 막을 마지막 길’…구글과 미 국방부 계약으로 닫혔나

미국 도널드 트럼프 행정부가 인공지능 군사 활용에 한 발짝 더 들어갔습니다.

구글이 미 국방부(전쟁부)와 자사 AI 모델 '제미나이'를 기밀 업무에 사용할 수 있도록 하는 계약을 맺었다고, 월스트리트저널과 IT 전문매체 디인포메이션이 현지 시각 28일 소식통을 인용해 보도했습니다.

계약서에는 국방부가 '모든 합법적인 목적'을 위해 구글의 AI를 사용할 수 있다는 조항이 담겼습니다. 정부가 요청하면 구글이 AI 안전 설정도 조정한다고 적혀 있습니다.

"양 당사자는 AI 시스템이 적절한 인간의 감독·통제 없이 미국 내 대규모 감시나 자율 무기를 목적으로 하지 않으며, 이러한 용도로 쓰여선 안 된다는 데 동의한다."

그러나 바로 다음 조항에 단서가 붙어 있습니다.

"본 계약은 정부의 합법적인 운영상 의사 결정을 통제하거나 거부할 권리를 부여하지 않는다."

법·AI연구소 선임연구원인 찰리 불록 변호사는 디인포메이션에 이 조항이 "단순히 양측이 대규모 국내 감시와 자율 무기가 바람직하지 않다고 동의한다는 뜻일 뿐, 어겨도 계약 위반이 되지 않아 법적 구속력이 없다"고 설명했습니다.

■ 구글 직원 600명, CEO에 공개서한… "거부하라"

이번 계약 체결은 구글 임직원의 반대를 무릅쓰고 진행됐습니다.

현지 외신 보도 내용을 보면, 구글 임직원 600여 명이 순다르 피차이 최고경영자(CEO)에게 공개서한을 보냈습니다. 그들은 국방부와의 협상을 중단할 것을 요구했습니다.

"우리는 AI가 인류에게 이로움을 주기를 원하며, 비인도적이거나 극도로 해로운 방식으로 사용되는 것을 원치 않습니다. 여기에는 치명적인 자율 무기나 대규모 감시가 포함되지만 이에 그치지 않습니다." - 공개서한 中

서명자의 3분의 1은 익명으로 참여했습니다.

이번 사태는 7년 전과 닮았습니다. 2018년 구글은 미 국방부의 드론 영상 AI 분석 사업 '프로젝트 메이븐'에 참여했다가 직원 수천 명의 반발에 부딪혀 계약 갱신을 포기했습니다.

당시 구글은 무기·감시 관련 AI 개발을 하지 않겠다는 'AI 원칙'을 발표했습니다.

그러나 이후 구글은 AI 원칙을 개정해 구체적인 금지 문구를 삭제했고, 정부·공공부문 사업 확장에 속도를 내고 있습니다.

■ 구글 딥마인드 하사비스의 경고 "AI 오용 우려"

미국 전쟁부와 계약에 대한 반대 서한은 구글의 AI 부문인 '딥마인드' 임직원도 동참한 것으로 알려졌습니다.

현재 딥마인드 설립자이자 공동 최고 경영자인 데미스 하사비스 CEO는 한국을 방문 중입니다. 우리 정부와 '구글 AI 캠퍼스 설립' 등을 위한 양해각서(MOU)를 맺고, 한국 협력사들을 만나기 위한 목적입니다.

하사비스 방한 첫날인, 지난 27일 KBS는 하사비스와 단독 인터뷰를 했습니다. 그 자리에서 그는 AI의 군사적 사용 등에 대한 우려에 대해 질문을 받고, 이렇게 답했습니다.

"이 기술들을 어떻게 배치할 것인지에 대해 매우 신중해야 한다고 봅니다. 제가 우려하는 두 가지는 '오용'과 '정렬 실패'입니다. 오용은 악의적인 행위자나 불량 국가가 AI 시스템을 해로운 목적으로 사용하는 것입니다. 사이버 공격 같은 것이 될 수 있죠. 그래서 우리는 먼저 방어 시스템을 구축해야 합니다." (데미스 하사비스 - 지난 27일 KBS 인터뷰 中)

이번 신규 계약으로 미 전쟁부의 기밀 업무용 AI 라인업은 세 곳으로 늘었습니다. 오픈AI의 챗GPT, xAI의 그록, 그리고 구글의 제미나이입니다. 지난 2월 퇴출당한 앤트로픽의 '클로드' 자리를 제미나이가 메운 모양새입니다.

세계 최고 수준의 LLM이 세계 최강 대국의 기밀 안으로 들어갔습니다. 하사비스가 "먼저 구축해야 한다"고 한 그 방어 시스템은 누가 어떻게 만들어가야 할까요.

그리고 미국을 '불량 국가'라 부를 수는 없습니다만, 그 행위 속에 '악의적 의도'가 껴들지 않을 거란 보장은 누가 어떻게 할 수 있을까요.

직원들은 제미나이 등 자사 AI 모델이 기밀 업무에 사용되면 어떻게 쓰이는지 알 길이 없다며, "구글이 이런 해악에 연루되는 것을 막을 유일한 방법은 기밀 업무에서의 사용을 일절 거부하는 것뿐"이라고 강조했습니다. 그 '유일한 방법'은, 구글이 전쟁부와 계약을 맺으면서 사라졌습니다.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

우한울 기자 (whw@kbs.co.kr)