'인류 멸망' 예고하는 AI 기업들...속뜻은 따로 있다

"인류를 파멸시킬 수도 있는 가장 위험한 물건을 만들었습니다."

흡사 인류를 향한 경고처럼 보이는 실리콘밸리 거물들의 이와 같은 고백이 사실은 정교하게 설계된 비즈니스 전략이라는 지적이 나온다.

29일(현지시각) BBC 보도에 따르면 최근 인공지능(AI) 업계에서 확산하고 있는 '종말론적 서사'는 기술적 우위를 과시하고 규제의 주도권을 쥐기 위한 치밀한 계산의 산물이라는 분석이 제기됐다.

초자연적 공포를 통한 기술적 의존성 심화

최근 AI 기업 앤트로픽(Anthropic)은 최신 모델 '클로드 미토스(Claude Mythos)'를 발표하며 "미토스가 인간 전문가를 훨씬 능가하는 사이버 보안 결함 탐지 능력을 갖췄으며, 이것이 잘못된 손에 들어갈 경우 세계적인 대혼란을 초래할 수 있다"고 경고했다. 경제, 공공 안정 및 국가 안보에 미칠 여파가 심각할 수 있다는 것이 그들의 주장이다.

그러나 섀넌 발러 에딘버러 대학교 데이터 및 인공지능 윤리학 교수는 이러한 행보에 대해 "기술을 초자연적인 위험으로 묘사해 대중을 무력하게 만드는 전략"이라고 비판했다. 대중이 AI를 인간이 감당할 수 없는 '괴물'로 인식할수록 아이러니하게도 그 '괴물'을 만든 기업에 "우리를 지켜달라"며 의존하게 되는 효과를 노린다는 지적이다.

구원과 파멸을 오가는 테크 리더들의 전략적 모순

테크 리더들의 행보에서 발견되는 모순 또한 이러한 의구심을 뒷받침한다. 샘 올트먼 오픈AI 최고경영자(CEO)는 AI가 기후 위기를 해결하고 유토피아를 건설할 것이라는 전망을 제시하는 동시에, AI를 핵전쟁에 비견되는 인류 절멸의 위협으로 묘사하는 성명에 앞장서고 있다.

또한 일론 머스크가 AI 개발을 6개월간 중단하자는 공개서한에 서명한 직후 자신의 새로운 AI 회사인 'xAI'를 설립한 사례는 이들의 경고가 진정성 있는 우려보다는 시장의 속도를 조절하고 경쟁 우위를 점하기 위한 전략일 가능성이 농후함을 시사한다.

미래의 종말론을 방패 삼은 현실적 책임 회피

더욱 심각한 문제는 '미래의 종말론'이 '현재의 책임'을 은폐하는 수단으로 악용되고 있다는 점이다.

에밀리 벤더 워싱턴 대학교 교수는 AI 산업이 '인류 멸망'이라는 거창한 위협을 내세워 정작 지금 당장 해결해야 할 시급한 문제들로부터 대중의 시선을 돌리고 있다고 주장한다. 현재 AI 산업이 초래하고 있는 데이터 센터의 막대한 환경 파괴, 창작자들의 저작권 침해, 저임금 노동 착취, 그리고 일상을 파고든 딥페이크 범죄는 '인류 절멸'이라는 자극적인 단어 앞에 사소한 문제로 치부되기 일쑤다. 벤더 교수는 기업들이 "저기(미래)를 봐!"라고 외치며 오늘날 그들이 저지르고 있는 구체적인 사회적 책임으로부터 면죄부를 얻으려 한다고 비판했다.

결국 이들이 공포를 조장하는 궁극적인 목적은 기술을 인간의 힘으로 다스릴 수 없는 영역으로 위치시킨 뒤, 규제의 주도권을 장악하고 독점적 논리를 공고히 하는 데 있다는 것이다.