앤트로픽 연구원의 섬뜩한 경고… “AI, 10년 내 인류 멸망시킬 수도”

AI가 초래할 위험성 우려하며 퇴사
“이르면 내년 말 통제 불능 가능성”
안전 위한 정부개입·공동대응 촉구

로이터연합뉴스

세계적 인공지능(AI) 기업 앤트로픽의 연구원이 “AI가 10년 안에 인류를 멸망시킬 수 있다”는 섬뜩한 경고를 남기고 회사를 떠났다. 이르면 내년 말 AI가 인간의 통제를 벗어나 임의로 작동하는 상황에 봉착할 수 있다는 주장도 했다.

최근 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 엑스(X·옛 트위터)를 통해 AI 개발 경쟁이 통제 불능의 위험을 키울 수 있다고 경고했다. 영국 출신인 콕슨은 대규모 데이터를 활용해 AI 모델을 학습시키는 연구를 해왔다. 오픈AI 출신인 그는 올해 초 상대적으로 AI 안전을 중시하는 앤트로픽으로 자리를 옮겼지만, AI의 위험성에 대한 우려를 끝내 털어내지 못하고 약 반년 만에 퇴사를 결정했다.

콕슨은 AI 기업들이 인간의 개입 없이 스스로 성능을 높이는 시스템 개발에 속도를 내다 보니 통제 불능 위험도 커지고 있다고 봤다. 성능 향상이 가속화할수록 인간이 AI의 행동을 예측하거나 관리·감독하기 어려워질 수 있다는 것이다.

그는 이르면 내년 말 AI가 인간의 통제를 벗어나 명령에 불복하는 수준까지 나아갈 수 있다고 내다봤다. 콕슨은 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 “가장 공격적인 시나리오 상당수가 현실화하는 방향으로 가고 있다”고 지적했다. 오픈AI와 앤트로픽 역시 개발 경쟁에서 충분히 책임감 있게 행동하지 않고 있다고 비판했다. 양사가 초지능 AI 개발에 속도를 내면서 인류의 생명을 사실상 도박거리로 삼고 있다는 취지다. 그러면서 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해 “일종의 광기”라고 비판했다.

앤트로픽 내부 임원들도 비슷한 우려를 제기했다. 에번 휴빙거 정렬과학 총괄은 “개인적으로 향후 10년 안에 AI가 인류를 멸망시킬 가능성을 10% 이상으로 본다”고 밝혔다. 새뮤얼 마크스 확장감독 총괄도 “직급이 높을수록 이 문제를 더 심각하게 받아들이는 경향이 있다”며 “다만 상업적 이해관계와 기술 악용 가능성이 있는 경쟁자들에 대한 경계 때문에 개발을 지속하게 된다”고 털어놨다.

콕슨 역시 AI 기업들이 경쟁사나 중국 업체에 주도권을 내줄 수 있다는 압박 때문에 개발 속도를 늦추기 어렵다고 진단했다. 그러면서 범용인공지능(AGI)을 안전하게 개발하려면 정부의 개입과 업계 공동 대응이 필요하다고 강조했다. 그는 앞서 각국 정부에 AI 개발 속도를 조절할 국제적 체계를 마련하라고 촉구하는 AI 업계 연구자들 1000여명 성명에도 동참했다.

차민주 기자 lali@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지