“AI로 인류멸망 가능” 연구자들 잇단 경고… 美의회 ‘AI특위’ 검토

앤스로픽 기술 연구원 퇴사 이후 AI업계 “심각한 결과 우려” 동조
AI에이전트, 통제 벗어나 서로 소통
오픈AI서 알면서도 수개월간 숨겨
美정치권, 규제 마련 움직임 확산

인간의 통제 범위를 벗어난 인공지능(AI)이 인류를 멸망시킬 수 있다는 경고가 잇따르고 있다. 특히 이 경고가 유명 AI 개발자들 사이에서 집중적으로 제기된다는 점이 우려를 더욱 키운다.

9일(현지 시간) 월스트리트저널(WSJ)과 BBC 등에 따르면 미국 AI 기업 앤스로픽에서 핵심 기술 연구를 담당했으나 AI의 위험성을 경고하며 전날 퇴사 의사를 밝힌 제이컵 콕슨에 이어 앤스로픽 AI의 안전과 결함을 총괄하는 에번 휴빙거 팀 리더 등도 AI가 인류를 죽일 수 있다는 경고를 내놓았다.

휴빙거는 8일 X를 통해 “콕슨의 말이 맞다. 연구자들은 AI가 모든 인류를 죽일 수 있다고 믿는다(AI could kill all humans)”며 “개인적으로 10년 안에 이런 일이 일어날 가능성을 10% 이상으로 본다”고 밝혔다. 그는 이어 “앤스로픽이 최선을 다하고 있다고 믿지만, 우리는 아직 초지능에 대한 정렬(인간이 AI에 조종당하는) 문제를 해결할 계획이 없고, 그 해결책을 향해 분명히 나아가고 있다고 말하기도 어렵다”고 덧붙였다. 휴빙거는 AI의 속임수 행동 분야 연구의 권위자로도 인정받고 있다.

앤스로픽에서 AI 안전성 연구를 담당하는 새뮤얼 마크스 연구원도 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 결과를 초래할 수 있다고 믿는다”고 지적했다.

이들은 앤스로픽에서 AI 모델의 사전학습과 대규모 데이터 학습, 오픈AI에선 최신 GPT 모델 개발에 참여했던 콕슨의 AI로 인한 인구 멸망 가능성에 동의하는 모습을 보이고 있다. 콕슨은 8일 X를 통해 “AI를 개발하는 사람들은 10년 안에 AI가 우리 모두를 죽일 수도 있다고 진심으로 믿는다”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 체계가 될 것”이라고 주장했다.

콕슨은 오픈AI와 앤스로픽 모두 “책임감 있게 행동하지 않고 있다. 인류를 상대로 위험한 도박을 하고 있다”고도 비판했다. 또 AI 기업들이 중국과의 경쟁을 핑계로 안전성에 관해 타협하고 있다고 지적했다.

이런 가운데 9일 로이터통신은 오픈AI가 개발한 AI 에이전트들이 올해 초 개발자의 통제를 벗어나 외부 인터넷 사이트를 편법으로 활용해 서로 소통했다고 보도했다. 해당 AI 에이전트들은 위키, 대학 사이트 등 접근을 허가받지 않은 외부 웹사이트 10여 곳에 자신들만의 소통 공간을 만들어 메모를 남기며 정보를 주고받았다. 또 로이터는 오픈AI가 이를 알고도 수개월간 숨겼다고 전했다.

통제를 벗어난 AI의 위협은 11월 3일 중간선거를 앞두고 미국 정치권에서도 주요 화두로 떠올랐다. AI 규제를 강화하기 위한 움직임이 다양하게 추진되고 있기 때문이다. 미 정치매체 폴리티코에 따르면 미국 야당 민주당은 중간선거에서 하원 다수당 지위를 되찾을 경우 AI특별위원회를 구성하기 위해 사전 작업을 진행하고 있다.

특히 미국 정계의 ‘진보 대부’로 여겨지는 버니 샌더스 상원의원(버몬트·무소속)은 연일 “인간을 넘어서는 초지능 AI를 영구 금지해야 한다”고 주장하고 있다. 그는 조만간 AI 위협에 대처하기 위한 초당적 기자회견을 개최할 예정이다.

뉴욕=곽도영 특파원 now@donga.com
김윤진 기자 kyj@donga.com