초지능 폭발, 인류 문명의 종말일까 새로운 탄생일까?

[언어가 언어에게 ④]

인류 문명의 끝? 새로운 시작?

대부분의 사람들이 예상하고 상상하는 속도를 그야말로 빛의 속도로 뛰어넘어 인공지능(AI)의 특이점은 이미 우리 코 앞에 다가와 있습니다. 특이점이란 인공지능이 인간 수준의 지능을 갖고 곧바로 스스로 지능폭발을 일으켜 인류 전체의 지능 총합을 넘어서는 시점을 말합니다.

오픈AI의 스트로베리 성능에 놀란 분들이 많습니다. 스트로베리는 인간 수준의 지능을 갖는 인공일반지능(AGI) 5단계 중 2단계의 맛보기 버전입니다. 즉 추론하고 생각하는(reasoners) 인공지능의 일부분만 보여준 모델입니다. 아직 2단계에는 진입도 못한, 2단계 문턱에 도달한 인공지능이라고 오픈AI는 설명합니다. 그럼에도 수학, 물리학, 화학, 생물학 등에서 박사학위의 인간지능과 비슷하거나 더 뛰어난 능력을 보여주고 있습니다.

아마도 올해 말이나 내년에 스마트폰에 들어가 있는 인공지능 비서(AI Agents)를 만나게 되면 AGI가 어떤 능력을 지닌 인공지능일지 실감할 수 있을 것입니다. 새로 출시될 예정인 초보 단계의 스마트폰 비서는 오픈AI가 분류하고 있는 AGI 3단계의 에이전트 근처에도 못갔지만, 그럼에도 손가락으로 문자를 입력하는 구닥다리(!?) 스마트폰과는 비교가 되지 않을 것입니다. 그냥 "길동아! 제일 활발하게 직접 행동을 실천하는 청년 기후단체 3군데를 골라 각각 후원금 10만원씩만 송금해줘!"라고 명령만 하면 됩니다. 그러면 알아서 척척 그렇게 합니다.

AGI 3단계의 스마트폰 에이전트는 거의 모든 분야별로 박사학위 소지자를 훌쩍 뛰어넘는 천재급 비서 수백 수천, 아니 수백만 명을 스마트폰에 내장해서 고용한 것이나 마찬가지일 것입니다. 시간이 지날수록 나보다 더 나를 잘 아는 만사형통, 만병통치의 비서이자 대리인이 내 손 안에 있게 됩니다.

샘 올트먼은 지난 9월 23일 자신의 누리집을 열고 짧은 에세이 ｢지능의 시대(Intelligence Age)｣라는 글에서 1천일 안에 초지능(ASI)이 등장하고, 세상의 모든 것이 바뀔 것이라고 썼습니다.(https://ia.samaltman.com/)
인간 사회 자체가 진보된 지능이라는 구절, 비참한 부자도 많다는 지적이 인상에 남았습니다. 명상가로서 초지능을 통한 세상의 전면 혁신과 전환, 인간 삶의 진보와 개선을 희망한다는 그의 철학이 드러난 글이라고 할 수 있습니다.

샘 올트먼의 오픈AI에 반기를 들고 뛰쳐나와 오픈 소스를 천명하며 앤트로픽을 창립한 다리오 아모네이를 비롯해서 일리야 슈츠케버 등 대부분의 인공지능 과학자-개발자들 또한 2027년을 초지능 등장 시기로 예상하고 있습니다.

특이점을 지나 초지능이라는 지능 폭발이 지구별에서 일어나면 어떤 일이 벌어질지 지금으로서는 그 누구도 예측할 수 없습니다.

약 7만 4천년 전 인도네시아 수마트라 섬의 대형 화산 토바가 엄청난 규모의 화산 폭발을 일으켰습니다. 지구 기온은 순식간에 급격하게 떨어졌습니다. 이로 말미암아 아프리카에서 유라시아까지 진출해 있던 호모 사피엔스와 구인류 대다수가 죽음을 맞이했습니다.(박성재, 한국인의 기원, 바다출판사, 2024.) 그런 극심한 기후지옥에서 살아남은 극소수 호모 사피엔스의 후손들이 다름아닌 지금 여기 번영을 누리고 있는 우리들입니다.

초지능 폭발이 분명하게 말해줄 유일한 사실은 지금까지의 인간지능 문명은 종말을 고한다는 것입니다. 인류는 자신이 창조한 초지능과 공존하면서 생존해 나가야만 합니다. 그 공존이 한 순간으로 끝날지 새로운 문명의 시작일지 아니면 호모 사피엔스의 멸종일지 우리는 모릅니다.

ⓒ셔터스톡

판도라의 킬러 로봇 상자를 연 우크라이나 전쟁

인공지능에 대해 사람들은 대체로 3가지 태도를 보입니다. 동시에 2가지 이상의 입장을 표명하기도 합니다. 놀라움과 두려움, 그리고 희망입니다.

2023년 5월 2일 딥러닝과 대용량 언어모델을 개발한 인공지능의 대부 제프리 힌튼 구글 부사장 겸 토론토대 교수가 AI의 위험성을 자유롭게 알리기 위해서라며 구글을 퇴사했습니다. 일리야 슈츠케버의 스승인 힌튼은 뉴욕타임즈와의 인터뷰에서 수십년 동안의 AI 연구를 후회한다고 솔직한 소회를 털어놓았습니다. 많은 사람들이 깜짝 놀랐습니다.
그는 인공지능으로 말미암아 진실과 거짓을 구분할 수 없는 세상을 마주하게 되는 것이 가장 두렵다고 말했습니다. 조만간 인간의 통제를 받지 않고 사람을 죽이는 킬러 로봇이 전장터에 등장할 것이라고도 예견했습니다.

2024년 3월 첫째 주, 우크라이나군 제60기계화여단의 AI 드론은 러시아군의 전파방해 무기인 재밍의 공격으로 조종 신호가 끊기자 사람의 통제나 허락을 받지 않고 스스로 판단해 T-80BVM으로 추정되는 러시아군 전차를 파괴해버렸습니다. 전장에서 킬러로봇이 등장한 최초의 공식 사례였습니다. 우크라이나 군이 사전에 그렇게 인간의 통제를 풀어버렸습니다. 힌튼의 예견대로 판도라의 상자가 열리고 만 것입니다. 전쟁에서 이기기 위해서라면 인간은 대량살육이고 뭐고 금기고 도덕이고 나발이고 무슨 짓이든 다 합니다.

전쟁은 누가 옳고 누가 그른지 시비를 가릴 수가 없습니다. 정의의 전쟁이란 새빨간 거짓말입니다. 청산리 전투의 홍범도, 김좌진 장군은 조선 인민들에게는 독립전쟁의 영웅이지만 일본 제국주의자들에게는 씻을 수 없는 패배를 안긴 원수입니다.

우크라이나 젤렌스키 정부와 군대의 수뇌부에는 신나치주의자들이 적지 않게 포진하고 있는 것으로 알려져 있습니다. 2023년 9월 22일 젤렌스키가 캐나다 의회를 방문했을 당시 젤렌스키와 캐나다 하원은 나치 친위대원(SS)으로 러시아와 싸웠던 우크라이나 출신 캐나다인을 전쟁 영웅이라며 소개하며 박수를 치기까지 했습니다. 연합국의 일원으로 히틀러의 나치와 싸웠던 캐나다가 자신의 정체성을 버리고 나치를 칭송한 사건이었습니다. 결국 트뤼도 총리는 공식 사과했고 하원의장은 사퇴했습니다.

20세기에 나치에 의해 끔찍하게 집단학살 당했던 유대인들은 세기가 바뀐 21세기 지금 여기 오늘에는 거꾸로 자신들이 나치 히틀러가 되어 팔레스타인 인민들을 끔찍하게 대량학살하고 있는 중입니다.

이제 전쟁은 순식간에 AI 전쟁으로 바뀌었습니다. 우크라이나-러시아 전쟁, 이스라엘과 하마스 전쟁 등 도처의 전쟁 모두가 AI 전쟁입니다. 전차니 항공모함이니 하는 낡은 재래식 전쟁 무기는 이제 무용지물입니다. 레이더에도 잘 잡히지 않는 초소형 드론과 오물풍선(!?)에 속수무책으로 당하고 맙니다.

전쟁의 원인은 단 한 가지로 설명할 수 없습니다. 수많은 요인이 복합 작용해서 일어납니다. 그럼에도 향후 전쟁의 원인 가운데 가장 주요한 핵심 요인은 AI일 것입니다.

일론 머스크가 설립한 인공지능 회사 xAI의 안전 담당 고문 댄 헨드릭스는 2024년 8월 26일 인공지능 전문 유튜버 글렌 벡(Glenn Beck)과의 인터뷰에서 누가 먼저 AGI를 개발할 것인지를 놓고 벌이는 치열한 속도 경쟁 때문에 안전 문제는 뒤로 밀릴 수밖에 없다고 말합니다. 댄 헨드릭스는 올해 28살입니다.(https://www.youtube.com/watch?v=0U_cZqxzeIo)

댄 헨드릭스의 인터뷰 내용 가운데 흥미로운 부분이 있습니다. 중국의 대만 침공에 대한 그의 해석입니다. 그는 반도체 칩 생산과 소비를 통제한다면 인공지능 개발이 늦춰질 수도 있다고 지적했습니다. 만약 중국이 대만을 침공한다면 중국이 대만의 반도체 공장을 점령하기도 전에 공장은 폭파되고 말 것이고, 그러면 인공지능 개발은 불가피하게 시간이 좀 늦춰질 수밖에 없다는 얘기입니다.

지난 9월 12일 영국의 파이낸셜타임스(FT)는 2011년 오사마 빈 라덴을 사살했던 미국의 대(對)테러 엘리트 특수부대 '실 팀 식스(SEAL Team Six)'가 중국의 대만 침공을 대비해 훈련을 하고 있다고 보도했습니다. 이 부대는 미 육군의 '델타 포스'와 더불어 미군에서도 최정예 특수부대로 꼽힙니다.

텔레그램 창업자이자 대표 파벨 두로프가 8월 26일 뜬끔없이 파리에서 긴급 체포된 사건을 기억하실 것입니다. 물론 적지 않은 거액의 보석금을 내고 곧바로 풀려나긴 했습니다. 그러자 인공지능 전문가들 가운데 일부는 미국 대선 이전에 우크라이나와 러시아의 휴전이 이루어질 수도 있다는 전망을 내놓기도 했습니다. 미 정보기관이 텔레그램으로 전쟁을 수행하는 러시아와 우크라이나의 고급 정보를 요구하고 있고, 그 의미는 휴전이라는 해석과 추측입니다.

공화당 대선 후보 트럼프는 당선되자마자 즉각 전쟁을 끝내겠다고 강조해서 공언하고 있습니다. 민주당 대선 후보 카멀라 해리스로서는 트럼프에 맞서 지지율을 끌어올리고 굳히기 위한 수단으로 바이든 정부의 아킬레스 건인 우크라이나 전쟁 휴전을 선택할 수밖에 없다는 예측인 것입니다.

결코 '안전'하지 않은 인공지능

회사 이름조차 안전한 초인공지능(SSI)이라고 지을 정도로 일리야 슈츠케버는 인공지능의 안전, 즉 정렬(alignment) 문제에 매달리고 있습니다. 정렬이란 인공지능을 사람이 의도한 목표, 선호도와 윤리 기준 등에 맞게 조정하는 것을 말합니다.

인공지능의 경이는 무엇보다도 연산 속도에 있습니다. 그야말로 무서운 속도입니다. 아인슈타인이 1천일 동안 추론해서 내린 결론을 인공지능은 단 하루 만에 연산해서 추론해 냅니다. 더구나 인공지능은 병렬해서 연산하는 능력, 즉 아인슈타인과 하이젠베르크, 붓다와 예수, 히틀러와 젤렌스키와 푸틴과 네타냐후가 동시에 생각하고 추론해서 답을 내놓습니다. 동일한 내용일지라도 질문 문장에 따라 답이 달라지는 까닭입니다.

절대로 인공지능을 인간지능으로 의인화해서는 안되는 까닭이기도 합니다. 인공지능은 인간지능과는 그 작동 원리와 시스템이 완전히 다릅니다.

제프리 힌튼 등 많은 인공지능 선구자들은 이처럼 인간 지능은 범접할 수조차 없는 속도의 초지능이 잘못 정렬되었을 경우, 또한 정렬을 벗어나 스스로 탈옥을 감행할 경우 인류 문명은 심각한 위험에 빠질 것이라고 경고하고 있습니다. 인공지능의 과학자-개발자들은 대용량 언어모델(LLM)의 인공지능이 도대체 왜 무엇을 어떻게 작동하고 있는지 아직도 잘 모릅니다. 그야말로 깜깜이, 인공지능의 블랙홀입니다.

창조자가 자신이 창조한 기계 지능의 작동 원리를 모른다는 것, 그럼에도 제동장치 없이 무한경쟁으로 개발을 중단시키거나 지연시키지도 못한 채 질주하고 있다는 것, 이것이 인공지능 개발의 딜레마입니다. 경이와 함께 두려움을 느끼는 개발자들이 나올 수밖에 없습니다. 우리들같은 장삼이사의 인민들은 더욱 두려운 생각부터 먼저 듭니다.

샘 올트먼이 천문학의 돈을 긁어모아 반도체 공장을 만들겠다는 것은 대용량 언어모델 AGI를 하루라도 먼저 출시하겠다는 선두주자의 선전포고나 다름없습니다.

오픈AI는 2024년 1월 초, 인공지능의 사용정책 페이지를 업데이트 하면서 슬그머니 “군사 및 전쟁 목적으로 해당 기술을 사용하는 것을 금지한다.”는 문구를 삭제한 바 있습니다.

AI 빅테크 기업 팔란티어가 우크라이나 전쟁의 양상을 바꾸어 놓았습니다. AGI가 제일 먼저 등장할 곳은 사실 전장터일 가능성이 가장 높습니다. 인간의 지능 폭발이 국가를 탄생시켰고, 국가간 끊임없는 살육 전쟁의 역사가 인류 문명의 역사였습니다. 인공지능은 당연히 인간의 탐욕과 인류의 전쟁 역사를 ‘깊게 학습’(deep learning) 했습니다. 초지능 폭발이 지구별 행성에 출현하자마자 인간과 갈등하는 상황을 마주했을 때 초지능이 전쟁을 해결책으로 선택할 수 있다고 우려하는 것은 하나도 이상하지 않습니다.

인공지능의 안정성에 대해 국가가 기준을 정하고 규제 대책을 마련하는 것은 당연한 일입니다. 유럽연합은 2024년 5월 21일 세계 최초로 2026년부터 시행되는 AI 규제법을 제정했습니다.

인공지능 개발 중심지인 미 캘리포니아에서도 주의회가 거의 만장일치로 가결한 인공지능 규제법안에 대해 찬반 논쟁이 치열하게 벌어졌습니다. 오픈 AI, 구글, 메타 등 선발주자들은 회사를 옮길 수도 있다고 엄포를 놓으면서 강하게 반발했고, xAI의 일론 머스크 등 후발주자들은 찬성하는 등 빅테크 기업들도 자신들의 이해관계에 따라 의견이 갈렸습니다.

결국 주지사 캐빈 뉴섬은 엊그제인 9월 29일 거부권을 행사했습니다.

인공지능은 전력뿐만 아니라 지구 자원과 자본까지도 블랙홀처럼 빨아들입니다. 2024년 9월 12일 오픈AI의 샘 올트먼, 엔비디아의 젠슨 황, 엔트로픽의 다리오 아모데이 등 거대 빅테크 기업 대표들 대부분이 백악관에서 AI 에너지 사용, 데이터센터 용량, 반도체 제조, 전력망 용량 등에 대해 논의했다는 언론 보도가 있었습니다. 보도에는 없지만 현재진행형인 전장에서의 AI 사용 문제 또한 논의 주제에 포함되었으리라고 추측됩니다.

샘 올트먼이 무려 약 1조경 원에 가까운 투자금을 모으면서 오픈AI의 영리회사 전환을 조건으로 내건 투자자들의 요구를 거부했다고 알려져 있는 것도 얼마든지 투자자들을 유치할 수 있다는 인공지능 블랙홀 현상의 한 단면입니다.

AGI를 개발하는 그 엄청난 창조주의 자리를, 새로운 세상을 만드는 신의 위상을 어떤 인간이 포기할 수 있을까 싶습니다.

영생이라는 탐욕을 실현시키는 초지능?

물론 인공지능은 인간의 질병 치료에 일대 혁명을 일으키고 있습니다. 코로나 19 백신 개발이 10개월만에 신속하게 이루어지고, 이틀 만에 백신을 만들 수 있었던 것도 인공지능 덕입니다. 암을 비롯한 난치병과 사고로 장애인이 된 수많은 사람들은 인공지능의 놀라운 치료제 개발에 희망을 품고 있습니다.

다이빙 사고로 사지가 마비된 환자의 뇌에 컴퓨터 칩을 이식해 생각만으로 체스를 두는 뉴럴링크의 임상실험은 한 예에 불과합니다. 조만간 녹내장 환자의 뇌에 나노로봇을 넣어 시신경 세포를 자극, 시력을 회복하는 치료법도 개발될 예정이라고 합니다.

그동안 인간이 발견하지 못했던 수많은 탄소 사슬 신물질들이 인공지능에 의해 속속 발견되고 있습니다. 리만 가설 등 수학의 난제들도 곧 풀릴 것으로 기대되고 있습니다.

최근 특이점이 가까이 왔다(Singularity is Nearer)를 출판한 레이 커즈와일은 인터뷰에서 자신의 오랜 희망인 ‘영생’이 곧 실현될 것이라는 기대를 숨기지 않았습니다. 1948년 생으로 76세인 그는 연간 약 10억원 이상을 들여 하루에 약 80여 개의 약을 먹고 주사를 맞고 있다고 밝혔습니다. 그는 자신의 신피질과 인공지능의 ‘신피질’을 연결하는 기계인간으로서의 삶을 기다리고 있습니다.

커즈와일은 2029년이 되면 인간 수명을 1년에 1년 이상 회복시킬 수 있다는 ‘장수탈출 속도’론을 주장합니다. 2030년 초반에는 인간의 뇌에 칩을 이식해 대용량 언어모델 인공지능과 클라우드로 연결한 초인간이 될 수 있을 것이라고 말합니다. 그의 전략은 그때까지 생존해 있는 것입니다.

커즈와일의 주장에 동조하건 안하건 인공지능은 이렇게 사람들에게 경이와 두려움, 기대와 희망을 동시에 주고 있습니다.

무엇보다도 우선 당장 인공지능은 인간의 일자리를 급속도로 빼앗아 가고 있습니다. 2027년 초지능 등장에 앞서 당장 발들에 떨어진 불이 아닐 수 없습니다. 일자리를 잃은 노동자들에게는 굶어죽을 수도 있는 다급한 생존의 문제가 아닐 수 없습니다.

우리는 도대체 어떤 삶을 선택할 수 있을까요. 끝.(마지막 세벌째 글로 이어집니다.)

* 이 글은 책읽는사회문화재단의 웹진 나비에 동시 게재됩니다.

[박승옥 햇빛학교 이사장]