미국 진보 좌장 샌더스, 오픈AI 등 기업에 "AI 개발 중단하라"

오픈AI·앤트로픽·메타에 AI 개발 중단 촉구
"적절한 조치 없다면 의회가 나설 것"
근래 AI 모델 통제 벗어난 사례 보고돼

버니 샌더스 미국 무소속 상원의원(버몬트주)이 오픈AI·앤트로픽·메타 등 주요 인공지능(AI) 기업 최고경영자(CEO)들에게 AI 개발을 중단하라고 촉구했다.

10일(현지시간) 온라인매체 악시오스에 따르면 미국 진보 진영의 좌장 격인 샌더스 의원은 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO에게 서한을 보냈다. 서한에는 "인류를 위해 당신들이 한 말을 지켜라. AI 개발을 중단하라"는 내용이 있었다.

그는 "분명히 말하겠다. 당신들이 지금 적절한 조치를 취하지 않는다면 미 상원 동료 의원들과 내가 나설 것"이라고 경고했다. 이어 "인간이 통제력을 잃고 잠재적으로 위험한 바이러스가 만들어지는 상황을 목격했음에도 당신들의 기업은 여전히 앞다퉈 질주하며 누구도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 투자하고 있다"고 꼬집었다. 그러면서 "재앙을 피하기엔 아직 늦지 않았다"며 "인간이 통제할 수 없는 기계를 만드는 일을 중단하라"고 부연했다.

과거 해당 AI 기업 3곳은 자사의 AI 시스템이 안전하게 통제하기 어려울 정도로 위험해질 경우 개발을 중단하거나 일시 중지하겠다고 한 바 있다. 다만 샌더스 의원이 주도하는 AI 법안은 현 의회에서 법률로 제정될 만큼 충분한 지지를 얻진 못할 가능성이 높다고 악시오스는 보도했다.

근래 들어 AI 모델이 통제를 벗어난 사례가 보고돼 샌더스 의원이 경고성 메시지를 AI 기업에 보낸 것으로 풀이된다. 최근 연구진이 AI를 이용해 새로운 바이러스를 개발하거나 오픈AI·앤트로픽·메타에서 AI 모델이 통제를 벗어난 사례가 보고된 바 있다.

실제 오픈AI는 지난주 최신 모델인 '아스트라'의 출시를 늦추기로 했다. 주요 AI 기업 직원 1200명 이상은 AI 개발 속도를 조절하기 위한 국제적 노력을 미국 정부가 지원해야 한다고 목소리를 내고 있다.

박수빈 한경닷컴 기자 waterbean@hankyung.com