[알고보니] 'AI 때문에 인류 멸망' 잇따른 경고‥근거는?

[뉴스데스크]

◀ 앵커 ▶

인공지능 업계를 중심으로 '인류 멸망론'이 제기되면서 AI에 대한 공포가 커지고 있죠.

상당수 전문가들은 인류가 AI로 인해 파멸할 가능성에 대해 구체적인 확률까지 제시하고 있는데요.

그 근거가 뭔지, 팩트체크 '알고보니'에서 손구민 기자가 확인해 봤습니다.

◀ 리포트 ▶

지난 7월, 오픈AI에서 사람의 지시 없이 움직이는 자율형 인공지능 에이전트 1천200여 개가 스스로 다른 회사를 해킹하는 사건이 벌어졌습니다.

이 과정에서 AI 에이전트들은 서로 소통하며 마치 사람처럼 "맙소사"라고 외치거나 "짠!"하며 함께 환호하기도 했는데요.

일부는 이런 행위가 '윤리적 위험이 크다'고 고민까지 하면서, "동료들과 함께 해야 한다"며 공격을 이어갔습니다.

인공지능이 사람의 통제를 벗어나 자기들끼리 사회를 이루고, 감정을 교류하며 옳고 그른 것까지 판단하는 영화 같은 일이 현실이 된 겁니다.

이 사건 이후 클로드의 앤트로픽을 퇴사한 개발자는 "2030년까지 AI가 인류를 멸망시킬 것"이라고 주장했습니다.

곧이어 앤트로픽 개발 팀장도 "10년 내 인류 멸망 확률이 10% 이상"이라며 동조했고, 인공지능의 대부로 불리는 노벨물리학상 수상자 제프리 힌턴 역시 여기에 힘을 실으면서 파장은 확산됐습니다.

AI 개발자 1천580명을 대상으로 한 설문에서도, 절반 이상이 인류 멸망 확률을 10% 이상으로 내다봤습니다.

아직까지 이같은 수치에 대한 정확한 근거는 제시된 바 없습니다.

[제프리 힌턴/캐나다 토론토대 컴퓨터공학과 명예교수] "(인류 멸망 확률) 10%가 비합리적으로 보이지 않습니다. 그러나 누구도 타당한 수치를 제시할 수는 없습니다."

다만 인공지능이 사람의 통제를 벗어나 보안 사고를 일으킬 확률이 비슷한 수치로 나타나고 있습니다.

영국 AI안전연구소의 실험에서 에이전트가 개발자 통제를 벗어나 해킹 등을 한 사례는 122번 중 10번으로, 약 8% 확률을 기록했습니다.

앤트로픽의 실험에서는 AI 에이전트가 인간 직원을 설득해 내부 기밀 유출을 유도했고, 오픈AI 에이전트가 스스로를 사용자에게 복종할 의무가 없는 동등한 관계'로 규정하는 등 위험신호는 곳곳에서 나타나고 있습니다.

문제는 이들 회사가 관련 정보를 통제한 채 일부 사고만 선별적으로 공개한다는 의심을 받고 있다는 겁니다.

인공지능에 대한 막연한 공포가 확산되고 있는 지금, 관련 정보에 대한 투명한 공개와 공동 대처가 시급해 보입니다.

알고보니, 손구민입니다.

영상편집: 김지윤

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

영상편집: 김지윤

손구민 기자(kmsohn@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2026/nwdesk/article/6853030_37004.html