앤스로픽 떠난 연구원 “AI 통제법 아직 모른다…이대로면 인류 멸종”

제이콥 콕슨이 5일(현지 시간) 미국 뉴욕에서 열린 뉴욕시의회 인공지능(AI) 안전 청문회에 참석하고 있다. AP=뉴시스

인공지능(AI)의 위험성을 경고하며 앤스로픽을 떠난 연구원 제이컵 콕슨이 미국 뉴욕시의회 청문회에서 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”고 증언했다.

5일(현지시간) 블룸버그통신 등에 따르면 이날 뉴욕 시청에서 열린 AI 청문회에 출석한 콕슨은 이같이 말했다.

콕슨은 “지금대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크다”며 “이는 인류 멸종으로 끝날 수도 있다”고 밝혔다.

그는 AI 기업들의 접근 방식도 문제 삼았다. 콕슨은 “기업들은 스타트업 사고방식으로 움직인다”며 “(실리콘밸리의 오랜 격언인)‘빠르게 움직이고, 깨뜨리고, 나중에 고친다’는 식”이라고 비판했다.

이어 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”며 “프런티어(최첨단) 모델 개발 속도를 어떤 식으로든 늦춰야 한다”고 요구했다.

콕슨은 지난달 앤스로픽을 그만두며 앤스로픽과 오픈AI가 “우리 목숨을 걸고 도박을 한다”고 비판한 바 있다. 그는 앤스로픽에 앞서 오픈AI에서도 근무했다.

● 스페이스X 제외한 4사 출석…규제엔 열린 태도

왼쪽 위부터 오픈AI의 모건 드와이어, 메타의 셰인 케이힐, 구글의 앨리스 프렌드, 앤스로픽의 로건 그레이엄이 5일(현지 시간) 미국 뉴욕에서 열린 뉴욕시의회 인공지능(AI) 안전 청문회에서 화상으로 증언하고 있다. AP=뉴시스

이날 그는 AI 규제 법안을 추진 중인 줄리 메닌 뉴욕시의회 의장의 요구로 청문회에 출석했다.

메닌 의장은 청문회에 앞서 연 기자회견에서 “AI 기업들이 알아서 자율 규제를 하리라는 생각은 통하지 않을 것”이라고 말했다.

청문회에는 주요 AI 기업인 오픈AI·앤스로픽·구글·메타 관계자들이 화상으로 출석했다. 메타는 지난달 말 참석을 확정했으나 오픈AI와 앤스로픽, 구글은 시의회가 소환장 발부를 경고한 뒤에야 출석했다. 반면 스페이스X AI 부문은 소환장을 받고도 출석하지 않았다.

전 구글 딥마인드 연구원 알렉스 터너는 “중국만이 우리의 잠재적인 적은 아니다”라며 “우리는 안방에서 스스로의 적을 키우고 있을 가능성이 크다. 바로 오정렬 AI다. 이는 모두의 적이고, 언젠가 중국보다 강력해질 수 있다”고 증언했다.

앤스로픽과 오픈AI는 AI 규제에 열린 태도를 보였다. 앤스로픽 프런티어 레드팀 책임자 로건 그레이엄은 “현명한 규제를 환영한다”며 주정부와 지방정부의 규제 틀 마련을 당부했다. 오픈AI의 정책 개발·운영 책임자인 모건 드와이어는 “기술을 안전하게 개발하고 그 혜택을 널리 나누겠다는 여러분의 의지에 공감한다”고 했다.

뉴욕시의회는 AI 시스템의 외부 검증과 사람이 시스템을 중단할 수 있는 이른바 ‘킬 스위치’ 도입 등을 담은 규제안을 검토하고 있다.

뉴욕시의회는 이날 출석하지 않은 스페이스X AI 부문에 대해 법원에 소환장 집행을 요구할 방침이다.

김영호 기자 rladudgh2349@donga.com