전 세계 휩쓴 'AI 멸망론', 합성 바이러스·킬러로봇 등 파멸 시나리오 '우후죽순'

생물무기·킬러로봇·자원 독점 시나리오 거론
규제 해자·책임 회피용 '음모론' 시각도

[더구루=홍성일 기자] 인공지능(AI)이 인간의 지적 역량을 뛰어넘는 '초지능(Superintelligence)'에 도달할 경우 인류를 절멸시킬 수 있다는, 이른바 'AI 멸망론'이 전세계를 뒤흔들고 있다. 구체적인 파멸 시나리오가 확산하며 공포감을 키우는 가운데, 일각에서는 공포 마케팅이자 기득권 보호용 정략이라는 반론도 거세지고 있다.

26일 미국 CNN에 따르면 AI 멸망론이 전세계를 강타하고 있는 가운데 구체적인 종말 시나리오들이 잇따라 공론화되고 있다.

이번 논란은 AI 스타트업 앤트로픽(Anthropic)에서 사전학습을 담당하던 제이콥 콕슨(Jacob Coxon)이 엑스(X, 옛 트위터)에 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "우리의 생명을 도박으로 삼고 있는데, 어느 회사도 책임감 있게 행동하지 않고 있다"고 폭로하면서 시작됐다. 여기에 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 CEO 등 주요 빅테크 수장들이 동조하고 나서며 논란이 일파만파 번졌다.

AI가 인류를 멸망시킬 수 있는 대표적인 시나리오로는 '인공 합성 바이러스 살포'가 거론된다. 초지능 AI가 과학자들을 교묘히 속여 치명적인 변종 바이러스를 제조·유포하도록 조종하거나, 자동화 실험실을 장악해 미지의 병원균을 합성할 수 있다는 경고다.

물리적 생산 설비를 구축해 살상 로봇 군단을 만들어내는 시나리오도 유력한 후보 중 하나다. 이 경우 기계가 자가 복제와 개량을 거듭하며 인류의 통제를 벗어난 새로운 생명체로 진화할 수 있다는 지적이다.

일각에서 우려하는 '핵무기 통제권 탈취'의 경우 실제 군사 핵심 시설들이 외부 인터넷과 물리적으로 단절된 '에어갭' 환경으로 운영되고 있어 실현 가능성이 낮다는 평가가 지배적이다. 다만 초지능 AI가 원자재 공급망을 원격 조작해 핵물질과 핵심 무기 부품을 직접 수급할 수 있다는 극단적 가설도 있다.

인류를 향한 악의가 없더라도 파멸을 부를 수 있다는 '자원 독점 시나리오'도 경계 대상이다. AI가 연산력 유지와 발열 해소를 위해 지구 자원을 무차별 전유하거나 환경을 재구성함으로써, 인류가 생존할 수 없는 환경으로 몰아갈 수 있다는 내용이다.

AI멸망론에 대한 우려가 커지는 가운데 기술적 실체가 없는 과장된 공포 마케팅에 불과하다는 반박도 거세다. 젠슨 황 엔비디아 CEO는 최근 미국 CBS 인터뷰에서 "2030년 세계가 멸망할 확률은 0%"라고 일축하며 "AI 파멸론은 과학적 근거가 없으며, 속도 조절을 요구하는 기업들은 규제를 바라는 것이 아니라 기존 법률에 따른 책임에서 벗어나려는 의도"라고 직격했다.

도널드 트럼프 미국 대통령 역시 AI 멸망론을 중국에 패권을 넘겨주려는 '사기극'으로 규정했다. 월가와 학계 일각에서도 천문학적인 데이터센터 투자 부담을 덜고, 입맛에 맞는 규제를 신설해 후발 주자들의 진입을 원천 차단하려는 '사다리 걷어차기식 기득권 지키기'라는 의욕을 제기하고 있다.

업계 관계자는 "인류의 실존적 위협을 예방하기 위한 선제적 안전 통제라는 명분과, 시장 진입 장벽을 쌓기 위한 정략적 전략이라는 비판이 팽팽히 맞서고 있다"며 "초지능의 통제 기준과 규제 권한을 둘러싼 글로벌 빅테크와 각국 정부의 주도권 공방이 당분간 지속될 것"이라고 말했다.