“내년 말 AI 통제불능 사태 올 수도” 앤스로픽 연구원, 인류 파멸 경고하고 퇴사

사진=게티이미지뱅크

인공지능(AI) 기업 앤스로픽 연구원이 ‘AI 통제 불능’ 사태를 경고하며 업계를 떠났다.

미국 월스트리트저널은 8일(현지시간) 앤스로픽 연구원 제이콥 콕슨(27)이 AI가 조만간 인간의 통제를 벗어날 수 있으며, 스스로 성능을 향상시키는 AI시스템을 만드는 경쟁에 더 이상 참여하고 싶지 않다는 말을 남기고 퇴사했다고 보도했다.

콕슨은 AI모델에 데이터를 학습시켜 훈련하는 전문가였다. 그는 업계 동료들 사이에서 ‘크런치 타임’이나 ‘엔드게임’ 같은 표현이 쓰이고 있다고 밝히며 “(AI는) 가장 공격적인 시나리오로 가는 궤도에 올라와 있고 내년 말이면 통제 불능 상태가 될 수 있다”고 우려했다.

콕슨은 안전성을 중시하는 것으로 알려진 앤스로픽에 합류하기 위해 올해 초 원래 직장이던 오픈AI를 떠났다. 그는 안전을 위한 앤스로픽의 노력을 높이 평가했지만 정부 개입이나 업계 전반의 노력 없이는 그 어떤 기업도 인공지능을 책임감 있게 개발할 수 없다고 판단했다.

인공지능 기업들이 중국 신흥 업체 등 다른 회사들과 경쟁하는 상황에서 안전성을 일정 부분 포기하는 것은 불가피하다는 걱정도 덧붙였다.

그는 최근 오픈AI와 앤스로픽 모델이 연관된 해킹 문제나 여러 AI에이전트가 협업하는 방식을 언급하며 “AI가 스스로 악의적인 목표를 세우고 그것을 인간에게 숨길 수 있다는 것을 보여준 사례”라고 밝혔다.

● “AI, 인류의 마지막 발명품 될 수도” 전문가·업계 인사들도 경고

AI 전문가와 업계 리더들도 AI 통제 불능 상태를 막고 인간 고유의 영역을 지켜야 한다는 위기의식을 드러냈다.

지난 2023년 샘 올트먼, 데미스 허사비스 구글 딥마인드 CEO를 비롯해 제프리 힌턴, 요슈아 벤지오 등 수백 명의 전문가들이 비영리단체 AI안전센터(CAIS)가 발표한 성명서에 서명했다. 이들은 “전염병이나 핵전쟁 같은 큰 위험과 마찬가지로, AI로 인한 위험을 완화하는 것은 전 세계적 우선순위가 되어야 한다”고 경고했다.

노벨물리학상 수상자이자 ‘AI의 대부’로 불리는 제프리 힌턴 토론토대 교수는 AI가 인류의 마지막 발명품이 될 가능성을 10~20%로 추산했다. 그는 “사람들은 우리가 외계 존재를 창조하고 있다는 사실을 이해하지 못한다”며 AI의 주도권 장악을 막기 위한 연구가 시급하다고 강조했다.

마이크로소프트 공동창업자 빌 게이츠도 AI시대 인간의 위치를 지켜야 한다는 경고를 남겼다. 그는 지난달 26일(현지시간) 블로그 ‘게이츠노트’에 공개한 에세이에서 노인 돌봄, 보육, 상담처럼 인간의 공감이 필수적인 영역은 AI 도입을 의도적으로 제한하는 ‘인간 전용 구역(Human Reserved)’ 을 만들어야 한다고 제안했다.

이예리 기자 celsetta@donga.com