美, AI 정부 계약에 ‘모든 합법사용’ 허용…“감독 없는 AI 무기 우려”

미국 정부가 국방 분야 이외의 정부 계약에서도 인공지능(AI) 기업이 ‘모든 합법적 사용’을 허용하도록 하는 지침을 마련했다. 더불어 AI 안전에 대한 규제가 강한 편인 유럽 등에 맞춰 AI 모델이 수정됐는지도 공개하도록 했다. 이미 마련된 ‘안전 장치’까지 무력화할 가능성이 있다는 것이다. 이에 오픈AI 고위 임원은 사의를 표명하며 이 같은 사태에 대해 우려를 표명했다.

파이낸셜타임스(FT)는 미 연방조달청(GSA)이 정부에 AI 도구를 공급하는 AI 기업들은 정부가 모든 합법적인 목적을 위해 AI를 사용할 수 있도록 허용해야 한다는 내용을 담은 지침을 마련했다고 6일(현지 시각) 보도했다. 이는 앞서 미 국방부가 AI 기업 앤스로픽에게 요구했던 것과 같은 내용이다. 앤스로픽은 국방부의 요청을 거부했고, 국방부는 앤스로픽과의 계약을 파기하고 앤스로픽을 공급망 위험 기업으로 지정하겠다고 밝혔다.

더불어 GSA는 AI 공급 기업에 “다양성/형평성/포용성(DEI)과 같은 이념적 개념에 편향되지 않은 중립적이고 비당파적인 도구를 제공해야 한다”는 조건을 부과했다. 이는 지난해 7월 도널드 트럼프 미 대통령이 서명한 연방정부의 ‘워크(woke·진보 진영을 비꼬는 말) AI’ 사용금지 행정명령의 후속 조치로 풀이된다. 트럼프 대통령은 국방부 요청을 거절한 앤스로픽을 향해서도 “워크 기업”이라고 비난하기도 했다.

해당 지침에는 AI 모델이 미국 정부 외에 다른 국가의 법률을 준수하도록 수정됐는지 공개하라는 내용도 담겼다. 전문가들은 AI 안전 및 공정한 사용에 대한 규제가 강한 유럽의 디지털서비스법(DSA)이나 AI 법(AI Act)을 겨냥한 조항이라고 보고 있다. 유럽의 규제에 맞춰 수정된 AI의 경우 미국에 그대로 적용하지는 않겠다는 의도가 깔려있다는 것이다.

이런 정부의 움직임에 대해 미국 빅테크들은 우려를 표하고 있다. 미 국방부와 앤스로픽의 계약이 종료되고, 미 국방부와 새로운 계약을 맺은 오픈AI의 고위 임원은 우려를 표하며 사임했다. 7일(현지 시각) 케이틀린 칼리노브스키 오픈AI 로보틱스 책임자는 자신의 X 계정에 사임 소식을 알리며 “사법적 감독 없이 미국인을 감시하고 인간의 허가 없이 자율적으로 치명적인 공격을 가하는 AI 무기는 용납할 수 없다”고 밝혔다. 이어 “가이드라인이 정립되지 않은 채 (국방부와의 계약) 발표가 성급하게 이뤄졌다”며 오픈AI의 거버넌스(지배구조)에 대한 우려를 표명했다. 오픈AI는 이와 관련해 “국방부와 국내 감시 금지, 자율 살상 무기 금지라는 금지선을 명확히 하면서 동시에 책임감 있는 AI 국가 안보 활용을 위한 경로를 만들고 있다”는 입장을 밝혔다.

최지원 기자 jwchoi@donga.com