[강남시선] AI가 기후위기 주범이라고?

김태경 전국부 선임기자

역사학자 유발 하라리는 인공지능(AI)이 인류문명의 운영체제를 해킹했다는 도발적 주장을 펼치면서 AI의 위험성을 경고했다. 언어는 인류문화의 핵심 운영체제다. 신화와 법, 신과 돈, 예술과 과학, 국가, 컴퓨터 코드가 언어에서 탄생했는데 AI가 언어를 습득한 것은 인류문명의 마스터키를 손에 넣은 것과 맥락이 같다는 것이다.

이처럼 AI가 실질적 위험으로 떠오르게 된 계기는 바로 GPT-4 같은 언어모델이다. 거대언어모델(LLM)에 이어 생성형 AI까지 단기간에 급속히 발전·진화하고 있는 AI의 기술발전 속도는 우리가 이를 제어할 수 없을 정도다. 심지어 개발자들조차 AI에 대한 공포심을 주체할 수 없을 정도라면 AI는 우리에게 무엇일까. 우리에게 주어진 질문은 새로운 AI 도구가 유해한 것이 아니라 좋은 것을 위해 사용되는지를 어떻게 확신할 수 있느냐다. 유발 하라리는 우리의 정신적·사회적 세계를 전멸시킬 수 있는 새로운 대량살상무기와 씨름해야 한다고 강변한다.

AI는 기하급수적으로 더 강력한 AI를 만들 수 있다는 사실은 우리에게 AI의 규제와 안전에 대한 강조를 요구하고 있다. 챗GPT는 출시된 지 2개월 만에 사용자 수가 1억명을 돌파했고, 얼마 지나지 않아 훨씬 성능이 좋아진 GPT-4가 나왔다. 매일 새로운 성능을 탑재한 오픈소스 프로젝트들이 나오면서 소위 AI의 캄브리아기가 활짝 열렸다.

특히 정부를 비롯한 공공부문에서 AI 도입 및 확산이 빨라지는 가운데 규제받지 않는 AI가 사회적 혼란을 야기할 가능성은 충분히 높다. 이미 생성형 AI 도구들이 부정확한 데이터를 산출하거나 제대로 된 답변을 내놓지 못하는 등 AI의 오류가 심심치 않게 발견되면서 이런 우려는 현실화할 조짐을 보이고 있다.

공공부문에 AI를 도입하기 전에 안전규제와 같은 사전조치가 많이 요구되고 있는 현실에서 우리 정부는 이에 대한 대책을 준비하고 있는지 의문이다. 지금 추세로 보면 그리 낙관적이지 않다. AI는 엄청난 양의 데이터를 학습하고 또 이를 학습하려면 같은 양의 서버도 필요하다. AI의 엄청난 기술력 뒤에는 이를 뒷받침하는 물리적 인프라가 필수다. 챗GPT와 같은 AI서비스를 LLM으로 사용하는 것은 AI가 학습하는 데이터 양이 실로 방대하다는 단적인 증거다. AI는 데이터를 먹고 자란다. AI가 학습할 때 전력이 이에 못지않게 소비될 뿐만 아니라 이산화탄소 배출도 상당하다는 게 밝혀졌다.

AI의 발전과 더불어 AI가 파먹는 지구자원은 상당한 규모로 파괴되고 있다. 앞으로 AI가 발전할수록 지구자원의 파괴 속도 또한 엄청나게 될 개연성이 높다. 한국에서만 AI 개발과 운영에 필요한 데이터센터 20개가 새로 들어선다고 한다. 대부분 원자력과 화력으로 가동되는 시설이다. 에너지와 자원이 고갈되는 건 시간문제다. 그런데도 이런 사실들은 잘 알려져 있지 않다는 점에 문제의 심각성이 있다.

AI가 인류에게 많은 혜택과 이점을 제공할 수 있다는 장밋빛 설명만 넘쳐난다. 특히 정부는 이런 사실을 국민에게 제대로 알려줘야 하지만, 이런 사실을 애써 숨긴 채 AI의 순기능과 장밋빛 미래만 강조하며 AI 도입을 서두르고 있다. 규제되지 않은 AI의 피해는 상상 불가다. 안전장치를 서둘러 마련하고 AI의 순기능뿐 아니라 부작용 및 역기능에 대한 논의도 공론화해야 한다. 유럽연합은 최초의 '인공지능법'을 만들었다. AI가 주는 혼란 및 안전, 정보투명성 등 AI 가이드라인을 만들어 인간 중심의 신뢰할 수 있는 법제화에 적극적인 모습을 보이고 있다. 우리도 AI의 화려한 이면에 있는 그림자도 함께 진단하고 규제해 인간을 위한 AI 환경 마련에 앞장서야 한다. AI에 대한 의존도가 높아질수록 인간의 친밀감이나 상호작용은 돌이킬 수 없을 정도로 망가질 수 있다. 인간의 본성이 파괴되는 날에 남는 것은 군비경쟁과 같은 AI 간의 경쟁체제로 인한 섬뜩한 기계의 시대다.

ktitk@fnnews.com