“AI에 통제권 잃을 가능성 더 커”…전 앤트로픽 연구원의 경고

뉴욕시의회서 증언…구글 연구원도 “잘못된 AI가 중국보다 더 위험”

▲ AI가 만든 ‘AI가 인류를 통제했을 때’의 예측 이미지 [제미나이 생성]

인공지능(AI) 개발 경쟁이 이어지는 가운데 인류가 AI 시스템에 대한 통제력을 잃을 가능성이 더 크다는 주장이 나왔다.

앤트로픽 전 연구원 제이컵 콕슨은 5일(현지시간) 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”며 “현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다”고 말했다.

콕슨은 AI 업계의 개발 방식에 대해서도 비판했다. 그는 업계의 접근 방식이 “극도로 무모하다”며 “빠르게 움직이고 깨뜨려라”는 방식은 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다고 지적했다.

이어 프런티어 모델 개발에 속도 조절이 필요하다고 주장했다. 뉴욕시의회가 검토 중인 AI ‘킬 스위치’(긴급 차단 장치)에 대해서는 단기적으로 도움이 될 수 있지만 장기적인 안전을 보장하기에는 충분하지 않다고 말했다.

콕슨은 지난달 앤트로픽을 떠나면서 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박을 하고 있다”고 비판한 바 있다. 이번 청문회에는 AI 규제 법안 패키지를 추진 중인 줄리 메닌 뉴욕시의회 의장의 요청으로 증언대에 섰다.

메닌 의장은 청문회 전 기자회견에서 “그저 자율 규제로 그칠 것이라는 AI 기업들의 생각은 통하지 않을 것”이라고 말했다.

구글 딥마인드 연구원 출신 알렉스 터너도 화상 증언에 나섰다. 터너는 “중국만이 잠재적 적이 아니다. 우리는 상당히 높은 확률로 국내에서 우리 자신의 적, 즉 정렬되지 않은AI를 만들기 위해 경쟁하고 있다”며 “이는 언젠가 중국보다 강력해질 수 있다”고 말했다.

이날 청문회에는 오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 참석해 선서 후 증언했다. 오픈AI와 앤트로픽, 구글은 시의회가 소환장을 발부하겠다고 경고한 뒤 출석을 결정했다.

반면 스페이스X의 AI 부문은 청문회에 참석하지 않았다. 메닌 의장은 법원에 소환장 집행을 요청하겠다고 밝혔다.

뉴욕시의회는 AI 시스템에 대한 제3자 검증과 인간이 시스템을 중단할 수 있는 장치 등을 포함한 규제 법안을 검토하고 있다. AI 관련 규제를 둘러싸고 연방정부와 주·지방정부 사이의 정책 방향에도 차이가 나타나고 있다.