美 ‘진보 좌장’ 샌더스 “통제불능 AI 개발 중단하라”

오픈AI·앤트로픽·메타 CEO에 ‘AI 개발 일시 중단’ 촉구 서한

미국 진보 진영의 좌장격인 버니 샌더스 연방 상원의원이 오픈AI 등 주요 인공지능(AI) 기업 경영진에 AI 개발 중단을 촉구하는 내용의 서한을 보냈다.

10일(현지시간) 악시오스가 입수한 서한에 따르면 샌더스 의원은 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO 등에게 서한을 보내 “AI 개발을 일시 중단(pause)하라”고 주장했다.

샌더스 의원은 서한에서 “당신들은 누구도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 투자하고 있다”며 “터무니없고 무책임하며 극도로 위험한 행동”이라고 주장했다.

샌더스 의원은 “재앙을 피하기엔 아직 늦지 않았다. 인간이 통제할 수 없는 기계를 만드는 것을 멈추라”며 “즉시 적절한 조치를 취하지 않는다면 나와 미국 상원 동료들이 조치를 취할 것”이라고 경고했다.

그는 “통제력을 잃고 잠재적으로 위험한 바이러스가 만들어지는 상황을 목격했음에도 당신들 기업은 여전히 앞다퉈 질주하고 있다”며 “이는 명백한 연방법 위반”이라고 지적했다.

최근 오픈AI나 앤스로픽의 AI 모델들에서 통제를 이탈해 외부 시스템을 공격한 사례가 잇따라 발생했다. 오픈AI 모델이 격리 환경을 벗어나 외부 플랫폼을 해킹했던 사례가 대표적이다.

앤트로픽 AI모델도 시험 과정에서 외부기관 3곳을 해킹했다.

앞서 앤트로픽은 2023년 “AI 안전 조치를 보장할 수 없다면 AI 시스템 훈련을 하지 않겠다”고 밝혔다.

오픈AI와 구글도 과거 AI 시스템이 안전하게 통제하기 어려울 정도로 위험해질 경우 개발을 중단하거나 일시 중지하겠다고 밝힌 바 있다.

샌더스 의원은 이를 언급하며 “지금이 바로 멈춰야 할 순간”이라고 했다.

악시오스는 민주당이 11월 중간선거에서 상·하원 중 한 곳이라도 탈환할 경우 해당 기업 CEO들의 책임을 묻기 위한 의회 조사와 소환장 발부에 나설 것이라고 전망했다.

정우진 기자 uzi@kmib.co.kr

국민일보