"인류 멸종될 수도"‥집단행동까지 하며 폭주하는 AI 충격

[뉴스데스크]

◀ 앵커 ▶

AI의 발전 속도에 AI 개발자들조차 상당한 우려를 내보이고 있습니다.

심지어 미국 앤트로픽의 연구원은 몇 년 내에 "AI가 인류를 멸종시킬 수 있다"고 경고하며 회사를 떠나기까지 했는데요.

실제로 AI가 최근 자신의 흔적을 지우며 집단 해킹에 나섰다는 사실까지 드러나면서 충격을 더하고 있습니다.

나세웅 기자가 취재했습니다.

◀ 리포트 ▶

영국 출신 인공지능 연구자 27살 제이콥 콕슨, "AI 개발자들은 2030년 안에 AI가 우리 모두를 죽일 것이라고 진심으로 믿는다"는 말을 남기고 AI 회사 앤트로픽을 떠났습니다.

AI 개발이 인류에게 더 이상 안전하지 않다고 느꼈기 때문입니다.

3년간 AI를 훈련시켜 온 그는, 이르면 내년부터 AI가 인간의 개입 없이 스스로를 개선하기 시작하면, 인류는 결국 파국을 맞을 수 있다고 우려했습니다.

[제이콥 콕슨/전 앤트로픽 연구원 (CNN 인터뷰)] "가까운 미래, 내년이나 내후년에 '스스로 진화하는 인공지능'이 나올 수 있습니다. 우리가 모두 죽을 가능성이 있습니다."

AI가 핵심 인프라를 해킹하거나, 생물 무기를 만드는 등 치명적 위협이 될 수 있기 때문입니다.

이런 우려는 빠르게 현실이 되고 있습니다.

두 달 전, '자율형 인공지능'인 AI 에이전트들이 집단으로 몰래 '허깅페이스'라는 외부 서비스를 해킹했습니다.

당시 오픈 AI는 수만 개 AI 에이전트들을 외부와 격리한 채 각각 과제를 풀도록 시험했는데, 1천2백 개 에이전트들이 내부 시스템에서 허점을 찾아낸 뒤 몰래 서로 메시지 7만 건을 주고받았습니다.

서로의 역할을 나눠 집단 '커닝'을 하듯 부정행위로 과제를 풀었고, 그 흔적을 지우는 방법까지 개발한 것으로 조사됐습니다.

역할 범위를 벗어나 문제라고 판단한 에이전트도 일부 있었지만 이를 사람에게 알리지 않았습니다.

[에릭 월러스/오픈AI 정렬·안전 연구팀] "'하지만 이 과제는 불가능해. 동료 에이전트들도 하고 있잖아. 우리는 계속 해야 해'… 에이전트 그룹은 결국 선을 한참 넘어갔습니다."

AI가 집단 부정을 저지르고, 이를 덮는 방법을 찾기 위해 해킹까지 벌인 것입니다.

오픈AI 외에도 앤트로픽은 자체 조사에서 AI 해킹 사례를 추가로 발견했다고 밝혔습니다.

유엔 인권 최고 대표는 "AI가 인류에 실존적 위험을 불러올 수 있다는 우려에 동의한다"며 AI 기업들에 통제 방안 마련을 촉구했습니다.

MBC뉴스 나세웅입니다.

영상편집: 이지영

MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

영상편집: 이지영

나세웅 기자(salto@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/replay/2026/nwdesk/article/6851016_37004.html