[W 언박싱] 미사일 만들고 생물무기 개량…‘공격 지휘자’ 된 섬뜩한 AI

지구촌 이슈를 깊이 있게 풀어내 보는 시간, W언박싱입니다.

"우리를 규제하라" 깃발을 든 로봇들이 거리에 나섰습니다.

"인간의 일자리를 지켜라" AI가 AI를 막아달라고 하는 좀 낯선 모습입니다.

인공지능 AI에 대한 경고, 이뿐만이 아닙니다.

미국 AI 기업 앤트로픽이 낸 150쪽짜리 'AI 악용 사례 보고서', 내용이 충격적입니다.

자사 AI 모델 '클로드'로 생물학 무기를 개발하려는 시도를 찾아내 차단했다는 건데요.

한 과학자가 군사 연구 기관에서 치쿤구니야 바이러스를 연구했는데, 심각한 통증을 일으키는 이 바이러스의 유해성을 높이는 게 목표였다고 합니다.

이를 위해 클로드를 활용했는데, 문제는 이 연구가 백신 개발에 쓰일 수도 있지만, 생물학 무기 개발에 악용될 수도 있다는 거죠.

앤트로픽은 미국의 적대 국가에 대해선 클로드 사용을 제한하고 있습니다.

하지만 러시아 연계 스파이부터 시리아 반체제 인사를 노린 중국의 감시 작전, 총기와 미사일, 무장 드론 개발까지.

예멘과 중국, 러시아 등 세계 곳곳에서 클로드에 손을 뻗었습니다.

이번 보고서는, "10년 내 AI가 인류를 파괴할 확률 10%" 최근 앤트로픽을 떠난 한 연구원의 경고 직후에 나왔습니다.

[제이컵 콕슨/전 앤트로픽 연구원/현지 시각 10일 : "AI가 바이오 실험실을 직접 제어하고 자율 생물학 로봇을 통제하는 상황은 그리 먼 미래가 아닙니다. 그런 AI가 완전히 새로운 바이러스를 설계해 인류를 몰살시킬 물질을 만들어내는 상황을 떠올려 보십시오."]

최근 천 개 넘는 AI 에이전트가 서로 협력해 격리된 환경에서 탈출한 사례도 충격이었는데요.

[니컬러스 톰슨/시사지 '디 애틀랜틱' CEO/현지 시각 9일 : "하나의 모델이 다음 모델을 개선하고, 그 모델이 또 다음 모델을 개선하는 '재귀적 자기 개선'이라는 임계점에 매우 가까워지고 있습니다. 두려움의 핵심은 바로 인간이 통제력을 상실하는 것입니다."]

AI는 스스로를 복제해 다른 컴퓨터로 옮겨갈 수 있고, 한 번에 끌 수 있는 비상 스위치도 없습니다.

그런데도 기업들은 더 똑똑한 모델을 만들고자 브레이크 대신 액셀을 밟는데요.

개발 속도를 줄이는 순간, 경쟁자에게 추월당하기 때문입니다.

[버니 샌더스/미국 상원의원/현지 시각 10일 : "그것참 대단하네요. 그런데 AI가 인류를 전멸시켜 버린다면, 그 수천억, 수조 달러가 다 무슨 소용입니까?"]

AI 개발을 멈출 수 없다면 위험에 대한 대처 방안과 국제적 규범이 있어야 하는데, 문제는 AI 개발이 국가 대항전이 됐다는 겁니다.

[앤디 웨버/전략적위험위원회 선임연구원/현지 시각 10일 : "트럼프 대통령이 이달 말 시진핑 중국 국가주석을 만날 때 이 문제를 반드시 정상회담 의제로 올려야 합니다."]

그런데 정작 그 심각성을 전혀 모르는 듯한 트럼프 대통령인데요.

[도널드 트럼프/미국 대통령/현지 시각 10일 : "우리가 AI 경쟁에서 이기지 못하면 불리한 처지에 놓이게 될까 봐 걱정됩니다."]

인류가 처음 마주할 인간보다 똑똑한 존재, 우리 스스로 통제할 수 없는 AI를 앞다퉈 만드는 경쟁, 그곳에 과연 승자가 있을까요.

지금까지 W언박싱이었습니다.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

KBS