‘온난화때문에 인류 멸종’은 옛말…진짜 위협 따로 있다는데

통제 벗어나면 인류 최대 위험 경고 잇따라
“AI공포, 아직 가설…온난화 재해 이미 발생”
막대한 전력 소비 AI, 온난화 가중시키키도

인공지능(AI)이 기후변화를 밀어내고 인류가 직면한 최대 위험으로 부상하고 있다는 논쟁이 확산하고 있다. AI가 인간의 통제를 벗어날 경우 최악에는 인류의 생존까지 위협할 수 있다는 경고가 잇따르면서다. 반면 기후학계에서는 AI에 대한 공포는 아직 상당 부분 가설인 반면 기후변화는 이미 사람의 목숨을 앗아가는 ‘현재의 위기’라는 반론이 나온다. AI가 막대한 전력을 소비하면서 기후변화를 오히려 악화시키는 역설까지 나타나면서 두 위험을 둘러싼 논쟁도 맞물리고 있다.

커지는 ‘AI 멸종’ 공포…과학계선 ‘아직 가설’

미국 텍사스주 애빌린에 오픈AI, 오라클, 소프트뱅크가 함께 지은 데이터센터 전경 [사진=오픈AI]

22일(현지시간) 뉴욕타임스(NYT)는 ‘가장 큰 위협은 기후변화였다. 이제 AI가 왔다’는 제목의 기사에서 AI가 기후변화를 제치고 인류의 가장 심각한 위험으로 떠올랐는지를 집중 조명했다. 토비 오드 영국 옥스퍼드대 연구원은 “인류를 끝낼 수 있는 위험이라는 측면에서는 AI가 더 큰 위험이라고 생각한다”고 말했다.

실제로 AI 위험을 둘러싼 미국인의 불안감도 커지고 있다. 이날 공개된 로이터 조사에서 미국인의 73%는 AI 기업들이 잠재적인 재앙을 막기 위해 충분한 조치를 취하지 않고 있다고 답했다. AI가 사회에 부정적인 영향을 주고 있다는 응답도 39%로 관련 조사가 시작된 이후 가장 높았다. 특히 응답자의 55%는 AI 개발 속도를 늦추는 데 찬성했다. AI 경쟁력보다 안전하고 책임 있는 개발이 중요하다는 응답은 73%로, 경쟁력을 우선해야 한다는 응답 23%를 크게 웃돌았다.

최근 실리콘밸리에서 불붙은 ‘AI 감속론’도 이 같은 분위기를 키웠다. 전 앤트로픽 연구원 제이컵 콕슨이 이달 초 AI가 통제에서 벗어나 인류를 파괴할 수 있다며 회사를 떠난 데 이어 앤트로픽의 AI 안전 연구 책임자인 에번 허빙거는 향후 10년 안에 AI로 인류가 멸종할 위험을 10% 이상으로 본다고 밝혔다. 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 개발을 중단하지는 않되 최첨단 모델 개발 속도를 조절하자고 제안했고 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO 등도 AI 위험을 잇따라 경고했다.

하지만 ‘AI가 인류를 멸종시킬 수 있다’는 주장이 과학적으로 얼마나 뒷받침됐는지를 놓고는 논란이 크다. 네이처는 “AI가 인간보다 훨씬 뛰어난 지능을 갖게 되고 그 목표가 인간의 이해와 어긋난다는 두 가지 가정을 전제로 해야 멸종 시나리오가 성립한다”고 분석했다. 마이클 버미어 랜드연구소 연구원은 “이 같은 전망에는 검증하기 어려운 가정이 너무 많이 들어가 과학적·경험적으로 판단하기 어렵다”고 지적했다. 일부 연구자들은 인류 멸종보다 허위정보나 사이버 공격, 생물무기 개발 지원 등 현재 나타날 가능성이 높은 위험을 먼저 살펴야 한다고 주장한다.

기후변화 진영에서 AI 위험론을 바라보는 시선도 이와 비슷하다. 리아 스톡스 UC샌타바버라 환경정치학 교수는 “AI가 우리의 모든 관심을 빨아들이고 있다”며 “AI와 달리 기후변화의 실존적 위협은 가설이 아니다. 지금 사람들을 죽이고 있다”고 지적했다. 기후변화는 이미 폭염과 산불, 홍수, 농작물 피해로 이어지고 있는 반면 AI에 의한 인류 멸종은 아직 발생 가능성과 경로를 정확하게 계산하기 어렵다는 것이다.

AI 전력 폭증…기후위기와 맞물린 ‘두 개의 위험’

AI에 관심이 집중되면서 기후변화 대응에 쏟을 정치적 관심이 줄어들 수 있다는 우려도 나온다. 이번주 유엔총회를 계기로 세계 정상들이 뉴욕에 모인 가운데 AI 안전은 국제사회의 주요 의제로 부상했다. 안토니우 구테흐스 유엔 사무총장도 22일 유엔총회 연설에서 AI에 대한 국제적인 관리 체계와 독립적인 감독 필요성을 강조했다.

문제는 AI와 기후변화가 별개의 위험이 아니라는 점이다. AI는 기후재난을 예측하거나 물 부족을 해결하는 기술 개발에 활용될 수 있지만 AI 경쟁에 필요한 데이터센터가 막대한 전력을 소비하면서 단기적으로는 탄소 배출을 늘리는 요인이 되고 있다. 국제에너지기구(IEA)에 따르면 AI 데이터센터의 전력 소비는 지난해 50% 급증했다.

AI의 전력 소비 문제는 이번 뉴욕 기후주간에서도 주요 의제로 떠올랐다. 사이먼 스티엘 유엔 기후변화협약 사무총장은 21일 AI 산업의 급증하는 전력 수요가 석탄과 석유, 가스 사용에 따른 탄소 배출을 늘리고 가정과 기업의 전기요금까지 끌어올리고 있다고 경고했다. 그는 “AI 기업들이 기후변화 대응에 나서 AI가 가져올 혜택이 급증하는 비용보다 크다는 것을 보여줘야 한다고” 촉구했다.

빅테크가 세운 기후 목표도 AI 경쟁이라는 복병을 만났다. 구글은 2030년까지 탄소를 배출하지 않는 에너지로 운영하겠다는 목표를 세웠지만 온실가스 배출량이 계속 늘고 있다. 2030년까지 배출하는 탄소보다 더 많은 탄소를 제거하겠다고 선언한 마이크로소프트(MS) 역시 배출량이 증가하고 있다.

결국 AI와 기후변화 가운데 어느 하나만을 ‘인류 최대 위협’으로 선택하기 어렵다는 지적도 나온다. AI 위험은 발생 가능성을 계산하기 어렵지만 현실화할 경우 충격이 극단적으로 클 수 있고, 기후변화는 이미 피해가 발생하고 있는 데다 일정 수준 이상의 온난화가 어떤 연쇄작용을 일으킬지 완전히 예측하기 어렵기 때문이다. 캐서린 리처드슨 코펜하겐대 교수는 지구 평균기온이 2~3도 높은 환경에서도 인류가 지금처럼 번영할 수 있을지는 알 수 없다며 “우리는 이 과정에 대한 통제력을 잃을 수 있다”고 경고했다. [실리콘밸리 원호섭 특파원]