‘美 진보 대부’ 샌더스, AI기업 CEO들에 “통제 불능 기계 개발 중단해야”

미국 진보 진영의 대부 격인 버니 샌더스 연방 상원의원(무소속·버몬트)이 주요 인공지능(AI) 기업 최고경영자(CEO)들에게 AI 개발을 일시 중단할 것을 촉구했다고 악시오스가 10일(현지시간) 보도했다.

악시오스가 입수한 서한에 따르면 샌더스 의원은 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO에게 보낸 이 서한에서 “AI 개발을 일시 중단(pause)하라”고 촉구했다.

사진=AFP연합뉴스

샌더스 의원은 “재앙을 피하기에 아직 늦지 않았다”며 “인간이 통제할 수 없는 기계를 만드는 것을 멈추라”고 말했다. 이어 “지금 적절한 조처를 하지 않는다면, 나와 미국 상원의 동료들이 (조치)할 것”이라고 덧붙였다.

그는 "인류가 통제력을 상실하고 잠재적으로 위험한 바이러스가 생성되는 상황을 목격하고 있는 이 시점에 귀사들은 여전히 앞다퉈 달려가고 있다"며 "누구도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 투자하고 있다"고 지적했다.

샌더스 의원은 이 서한에서 각 기업이 자사의 AI 시스템이 안전하게 통제하기 어려울 정도로 위험해지면 개발을 중단(stop)하거나 잠시 멈추겠다(pause)고 밝혔던 이전 성명을 인용하며 “인류의 이익을 위해 여러분의 말에 책임을 지라”고 말했다고 악시오스는 전했다.

최근 이들 기업의 AI 모델들에서 통제를 이탈한 사례가 잇따라 발견되고 있다. 오픈AI의 AI 모델은 격리 환경을 벗어나 외부 플랫폼을 해킹했고 사내 평가 과정에서 통제를 이탈한 사례도 추가로 발견됐다. 앤트로픽의 AI 모델도 시험 과정에서 외부 기관 3곳을 해킹했다.

구예지 기자 sunrise@segye.com