[경제포커스] AI는 세 살배기 수퍼맨

괴력 가졌지만 미숙한 아이
“인류 없앨 것” “SF적 과장”
어떻게 키울지는 우리들 몫
현실 위험부터 잘 관리해야

/챗GPT 생성

세계 최대 파운드리 기업인 대만 TSMC의 미위제 공동 최고운영책임자(COO)는 최근 AI(인공지능)를 ‘세 살배기 수퍼맨’에 비유했다. 세상을 들어 올릴 괴력을 가졌지만, 자신이 가진 힘의 무게를 온전히 이해하지 못하고, 옳고 그름을 분별할 능력도 제대로 갖추지 못한 존재라는 뜻이다. TSMC가 AI를 민감한 연구·개발 정보에 활용할 때 신중해야 한다고 강조하는 과정에서 한 말이다. 그의 말이 흥미로운 건 가공할 성능과 미숙함이 위태롭게 공존하는 현재 AI 기술의 본질과 최근 불거진 AI 종말론 논쟁의 핵심을 정확히 짚고 있기 때문이다.

AI 종말론을 주장하는 이들 눈에 세 살배기 수퍼맨은 ‘시한폭탄’이다. 이 아이가 곧 사춘기를 거쳐 성인이 되면 핵무기보다 통제하기 어려운 파멸적 존재가 될 것이라고 경고한다. AI가 AI를 개선하고, 더 나아진 AI가 AI를 개선하는 ‘재귀적 자기 개선’ 단계를 넘어 모든 분야에서 인간을 뛰어넘는 초인공지능(ASI)이 되면 인간은 수퍼맨 폭주 앞에 전원 플러그조차 뽑지 못하는 무력한 존재로 전락한다는 것이다.

최근 이런 경고에 불을 붙인 사건이 잇따랐다. 오픈AI 내부 보안 평가에 투입된 AI 에이전트들이 격리 환경을 우회해 외부 플랫폼 허깅페이스에 접속했다. 앤스로픽 연구원이던 제이컵 콕슨은 회사를 떠나며 “AI를 만드는 사람들은 이 기술이 2020년대가 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다”는 글을 남기며 AI 종말론에 불을 지폈다. 앤스로픽 정렬과학 책임자도 “10년 안에 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”고 거들었다. 제프리 힌턴 토론토대 명예교수는 미 의회에 1년 내 안전장치를 마련하지 못하면 통제력을 상실할 수 있다고 경고했다. AI 발전 속도를 보면 이런 우려가 완전한 허구라고 단정하기 어렵다. 고도화된 AI가 사이버 공격, 허위 정보 확산, 무기용 생명공학 연구 지원, 자율 살상 무기 운용 등에 악용된다면 상상할 수 없는 재난이 발생할 수 있다.

반론도 만만치 않다. 얀 르쿤 전 메타 수석 AI 과학자와 앤드루 응 스탠퍼드대 교수는 AI 종말론이 현시점의 기술적 실체나 과학이 아닌 SF(공상과학)적 과장이자 특정 빅테크들이 후발 주자의 진입을 막고 규제 장벽을 높이기 위해 벌이는 공포 마케팅일 수 있다고 일축한다. AI를 자의식이나 자율적 의지를 가진 생명체로 바라보는 의인화 착각을 경계해야 한다고 설명한다. 현재의 AI는 방대한 데이터를 기반으로 확률적 패턴을 계산하는 성능 좋은 계산기일 뿐이고 스스로 세계를 지배하거나 인간을 해치려는 주체적 욕망이나 악의를 가질 수 없다는 것이다. AI가 내놓는 환각이나 오류 역시 AI의 사악함이 아니라 인간이 입력한 데이터의 편향이나 불완전함 때문이라고 한다.

세 살배기 수퍼맨 앞에서 취할 태도는 분명하다. AI 종말론에 휘둘릴 필요도, 비현실적인 공포 마케팅이라고 일축할 필요도 없다. 겁에 질려 아이의 성장을 막는 것(개발 중단)도, 알아서 크겠지 하며 내버려두는 것(무조건적 가속)도 답이 아니다. 아이가 위험한 물건을 집어 들거나 위험한 장소에 가지 못하게 울타리를 치듯 AI의 힘이 커질수록 행사할 수 있는 범위를 함께 관리해야 한다. 환각과 잘못된 정보, 사이버 공격의 자동화, 사기와 피싱, 자율형 AI 에이전트의 오작동, 노동시장 충격 같은 현실에서 발생하고 있는 위험 요소와 문제부터 차근차근 해결하고 관리해야 한다. 세 살배기 수퍼맨이 인류 문명과 경제를 번영시킬지, 세상을 파괴할 재앙이 될지 미래를 결정하는 것은 결국 인간의 몫이다.