"앤스로픽·오픈AI, 인류 목숨 걸고 도박" 앤스로픽 연구원 경고

제이컵 콕슨 앤스로픽 연구원
퇴사 알리며 X에서 공개 일침
초지능 경쟁…통제 못하면 파멸

세계적인 인공지능(AI) 기업 앤스로픽의 연구원이 지난 8일(현지시간) 퇴사하면서 "앤스로픽과 오픈AI가 우리 목숨을 걸고 도박하고 있다"고 직격했다. 스스로 능력을 향상시키는 '초지능' 개발 경쟁이 통제되지 않을 경우 인류의 파멸을 이끌 위험이 뒤따를 것이라는 경고다.

로이터연합뉴스

제이컵 콕슨 앤스로픽 연구원은 이날 자신의 사회관계망서비스(SNS) 엑스(X·옛 트위터)를 통해 퇴사 소식을 알리며 "두 회사 어느 쪽도 책임 있게 행동하고 있지 않다"고 했다. 이어 AI 개발자들 사이에서는 이 기술이 10년 안에 인류를 위협할 수 있다는 우려가 실제로 존재한다며 "마케팅을 위한 과장이 아니"라고 덧붙였다.

케임브리지대에서 수학을 전공한 그는 지난 3년간 오픈AI와 앤스로픽에서 AI 시스템 학습을 돕는 프리트레이닝 연구(pretraining research)를 해왔다. 그동안 AI 위험성을 경고해온 전·현직 연구원 대다수가 AI 안전 분야 출신이었다는 점에서 프리트레이닝 연구자인 그의 행보는 이례적이라고 시사주간지 타임은 짚었다.

특히 콕슨은 일반 대중이 AI의 발전 속도와 잠재력을 과소평가하고 있다고 주장했다. 그는 "이 시스템들은 머지않아 인간을 뛰어넘어 무엇이든 해킹하고, 어떤 분야든 하룻밤 사이에 혁신하며, 실제 권력과 자원까지 확보할 수 있게 될 것"이라고 말했다.

그는 최근 오픈AI의 AI 챗봇 서비스인 '챗GPT'가 시험 과정에서 소프트웨어 플랫폼 허깅페이스의 시스템을 자율적으로 침해한 사례를 위험 신호로 꼽았다. 콕슨은 이런 사례들이 AI의 통제 실패가 더는 먼 미래의 가정에만 머물지 않고 있다는 점을 보여준다고 봤다.

이와 관련해 파이낸셜타임스(FT)는 AI 개발사의 경영진들이 공개석상에서는 AI의 위험성을 경고하면서도 개발 경쟁에서는 물러서지 않고 있다고 지적했다. 앤스로픽은 지난주 생명과학과 사이버 보안 분야의 최신 AI 모델 '클로드 미토스 5.1'을 출시했다.

오픈AI 출신 안전 연구자 스티븐 애들러는 FT에 "어떤 AI 회사도 현재 연구가 수반하는 위험 수준에 걸맞은 보안 태세에 근접하지 못했다"며 "AI가 지구상의 모든 사람을 죽일 가능성이 있다고 생각한다면, 지금이 이 열차에서 내려야 할 때"라고 했다. 

차민영 기자 blooming@asiae.co.kr