당신이 만든 알고리듬이 당신을 공격한다
‘인간을 사용하지 않는 미래의 회사가 도래할 것’ 조롱
스위스 헤지펀드 업계의 떠오르는 별 알렉스 호프만에게 찰스 다윈의 <인간과 동물의 감정 표현>이 배달된다. 제네바 유럽입자물리연구소(CERN)의 천재 물리학자에서 금융인으로 성공적으로 변신한 호프만의 취미는 희귀 과학 서적을 수집하는 것이다. 이 책이 1872년 출판된 고가의 초판본인 것을 바로 알아보지만 누가 보냈는지 몰라 답답해한다. 아내와 회사 동료 휴코 쿼리에게 물어보지만 다들 그런 책이 있는지조차 모른다. 그리고 그날 새벽 호프만은 침입자의 공격을 받아 죽을 위기를 겨우 넘긴다. 하지만 범인이 누구인지, 저택의 최첨단 보안 장치를 어떻게 뚫었는지 아무런 실마리가 없다.
급락·급등 뒤 자동화된 금융거래
로버트 해리스의 <어느 물리학자의 비행>은 이렇게 미스터리 스릴러로 출발하지만, 곧바로 거부들의 재산을 증식해주고 수수료를 받는 헤지펀드의 세계로 옮겨가면서 금융소설로 변신한다. 이 책의 내용은 2010년 5월6일 단 하루 동안 숨 가쁘게 발생한 복잡한 사건들로 구성됐는데, 이날은 실제 미국 증권시장에 아주 기이한 사건이 일어난 날이다.
미국 주식시장 대표주들로 구성된 다우존스 산업평균지수(DJIA)가 오후 2시45분께 불과 5분 만에 폭락했다. 그리고 또 빠르게 반등했다. 스탠더드앤드푸어스(S&P)500 지수와 나스닥 지수도 유사한 모습을 보였는데 급락과 급등이 이어진 뚜렷한 이유를 찾을 수 없었다. ‘2010년 플래시 크래시(Flash Crash) ’라고 부르는 이 사건 직후 미국 하원 금융서비스위원회는 청문회를 열어 사건을 따졌다. 규제 당국인 증권거래위원회와 상품선물위원회가 조사보고서를 발간하자 피규제기관인 시카고 상품거래소가 이례적으로 반박하는 등 큰 진통을 겪었다.
그 과정에서 주가선물, 공포지수라고도 불리는 변동성지수(VIX), 컴퓨터가 자동으로 주문을 내는 알고리듬 거래, 극초단타 거래인 고빈도거래(HFT), 대규모 주문과 취소를 반복해서 시세를 교란하는 스푸핑(Spoofing), 주식이 빠르게 손을 바꾸는 핫포테이토 효과 등 일반인에게 생소한 금융상품과 금융거래 방식이 수면 위로 떠오르면서 큰 화제가 됐다. 미국 정부는 2015년 영국인 나빈더 싱 사라오를 플래시 크래시의 책임자로 체포했다. 그는 금융계에 거의 알려지지 않던 인물로 자동화된 금융거래를 이용해 무려 4천만달러의 이익을 냈으며 자폐증을 앓은 것으로 알려졌다.
<어느 물리학자의 비행>에서 호프만의 자동 거래 프로그램은 2010년 5월6일 수많은 주식에 전방위로 공매도 공격을 벌인다. 변동성지수 상승에 베팅하면서도 투자 실패에 대비한 헤지거래는 오히려 해지한다. 마치 세상이 무너질 것처럼 시장이 급락하는 상황에 올인했다. 시장은 알고리듬의 예측대로 붕괴하고 호프만 회사의 투자수익률은 폭발적으로 치솟는다. 하지만 금융과 수학 전문가인 알고리듬의 설계자와 관리자들조차 예측하지 못한 상황이었다. 이들은 수익이 급등하는 것을 보면서도 영문을 몰라 오히려 불안에 빠진다. 플래시 크래시를 소설로 재현한 이 부분에서, 해리스는 앞서 말한 다양한 금융기법을 상당히 정확하게 전달한다. 금융에 대한 배경지식이 없는 독자도 충분히 즐길 수 있을 만큼 쉽게 설명한다.
통제를 벗어나 창조자를 살해한 프랑켄슈타인처럼
소설 속 호프만의 알고리듬은 현실 세계의 수준을 넘어서는 것으로, 여기서부터 디스토피아적인 사이언스픽션(SF)의 세계로 넘어간다. 호프만은 다윈의 초판본을 자신에게 배달한 암스테르담의 서적상을 통해 책을 주문한 사람의 신원을 확인했다. 놀랍게도 주문자가 자신이며 송금 은행 계좌의 명의도 ‘알렉스 호프만’이다. 또 미술가인 아내의 첫 전시회에서 모든 작품을 전화 주문으로 사들인 익명의 컬렉터도 알렉스 호프만인 것으로 드러난다. 우스꽝스러운 ‘완판’으로 놀림감이 된 아내 가브리엘은 수치심에 떨며 호프만을 떠나겠다고 선언한다. 심지어 호프만은 새벽에 자신을 공격한 자를 추적해서 추궁하는데, ‘호프만 당신이 보안 해제 방법을 알려줬고 자신을 공격해달라고 요청했다’는 충격적인 얘기를 듣게 된다. CERN의 물리학자 시절부터 정신질환에 시달렸던 호프만은 혹시 지킬과 하이드처럼 자아가 분열돼 자신도 모르는 또 다른 자신이 있는지 의심하는 지경에 이른다.
해리스는 소설의 첫 에피그래프(서두의 인용 문구)에서 “내가 정답은 아닐지언정, 적어도 내 선례를 따라 지식의 습득이 얼마나 위험한지 알라”는 메리 W. 셸리의 <프랑켄슈타인>을 인용해 향후 전개될 사건을 암시한다. 18세기 유럽에 전기 자극으로 생명을 불어넣을 수 있다는 생각이 ‘갈바니즘’이라는 이름으로 퍼져나간 적이 있었다. 이탈리아 과학자 루이지 갈바니의 실험에 기초했는데, 제네바의 프랑켄슈타인 박사는 이에 빠져들었다. 그리고 신을 대신해서 가장 아름다운 생명체를 창조하겠다고 나섰다(해리스가 소설의 무대를 제네바로 설정한 이유 중 하나다). 마침내 인공생명체를 완성했지만 의도와 달리 흉측한 모습이다. 이 피조물은 자신에게 생명을 불어넣은 프랑켄슈타인 박사의 통제를 벗어났고, 그의 가족과 약혼녀를 그리고 프랑켄슈타인까지 살해한다.
이와 대칭적인 사건이 21세기 해리스의 소설에서 벌어진다. 인간이 만든 알고리듬에 인간과 같은, 그리고 마침내 인간을 넘어서는 인공지능의 개발 경쟁이 일어나고 있다. 어느 때보다 더 물신숭배의 맘몬주의에 지배되는 이 시대에 인공지능 개발 노력은 금융에서 특히나 뜨겁다. 천재 물리학자 호프만은 여기에 자신의 모든 것을 바쳤고, 마침내 4세대 VIXAL을 완성한다. 현실의 공포지수인 VIX와 아서 C. 클라크의 소설 <스페이스 오디세이> 속 인공지능 컴퓨터 HAL의 합성어다. VIXAL은 인간이 공포에 빠졌을 때 보이는 행동을 학습한 인공지능 알고리듬이다. 이 환상적인 인공지능체 역시 창조자인 호프만의 통제에서 벗어나 세계 금융시장을 난장판으로 만든다.
자신이 폭발될 것마저 예상한 VIXAL
‘투자수익을 극대화하라’는 지시를 받은 VIXAL은 비스타항공의 여객기가 테러의 희생물이 될 것을 사건이 발생하기도 전에 예측해서 비스타의 주식을 공매도하는 등 탁월한 성과를 낸다. 나아가 호프만과 동료들이 VIXAL의 위험성을 깨닫고 알고리듬을 중단시키지 못하도록(즉, 수익 극대화에 방해되지 못하도록!) 이들을 교란한다. 심지어 호프만이 자신의 분열된 자아가 있을지 모른다고 의심했던 희귀 서적 주문과 자신의 집 침입 지시를 한 것도 바로 그의 피조물인 VIXAL이었다.
모든 혼란과 파국의 배후에 VIXAL이 있음을 알게 된 호프만은 알고리듬을 중지하려 하지만 멈춰지지 않는다. 회사의 컴퓨터 시스템과 데이터센터를 파괴하면 멈출 것이라 생각하고 폭발시켜버리지만 VIXAL은 그것조차 예측했다. 도처에 백업 시스템을 준비했고 중단 없이 ‘수익률 극대화’ 지시를 충실하게 수행했다. 호프만은 회사 설립 초기에 디지털에 집착해 ‘종이를 사용하지 않는 미래의 회사가 도래했다’고 선언하고 페이퍼리스를 회사에 관철했는데, 파국의 순간 VIXAL은 한술 더 떠서 ‘인간을 사용하지 않는 진정한 미래의 회사가 곧 도래할 것’이라며 조롱한다.
호프만이 인공지능 개발을 처음 착수한 것은 CERN에서였다. 하지만 위험을 인지한 과학자들이 ‘무한 진화 개념의 자율적 인공 존재는 유기체의 삶에 잠재적 위협이 될 수 있으므로 그 의미를 충분히 인지할 때까지 통제해야 한다’고 요구했고, 이에 실망한 호프만은 CERN을 떠난다. 그때 금전적 가치를 간파한 베테랑 금융인 쿼리가 호프만을 펀드의 세계로 끌어들인 것이다. 최근 챗지피티(ChatGPT) 개발을 우려한 일론 머스크와 유발 하라리 등 지식인 1천여 명이 ‘인공지능을 통제하는 방법을 찾기 위해 6개월간 개발 중단’을 요청한 것을 마치 알고 있었던 듯 실감 나는 대목이다.
단지 해서웨이라는 이유만으로
금융에 알고리듬 거래는 널리 퍼져 있다. 10여 년 전 미국 여배우 앤 해서웨이 주연의 영화가 개봉되거나 오스카 시상식에 등장할 때마다 워런 버핏의 투자회사 버크셔해서웨이의 주가가 오르는 기이한 현상이 화제가 됐다. 주식거래를 수행하는 알고리듬이 인터넷과 소셜미디어에서 배우 해서웨이가 긍정적으로 언급되는 비중이 높아진 것을 이름만 비슷할 뿐 전혀 상관없는 버크셔해서웨이의 호재로 엉뚱하게 해석했기 때문이다. 당시 알고리듬의 지능 수준은 그 정도였지만, 치열한 금융 인공지능 개발 경쟁을 고려할 때 향후 금융시장에 지대한 영향을 미칠 것이 분명하다. 당신은 인공지능 금융의 가치에 주목할 수도 있고 반대로 위험에 주목할 수도 있다. 어떤 경우든 이 소설에서 흥미로운 생각거리를 발견할 수 있을 것이다.
신현호 이코노미스트·<나는 감이 아니라 데이터로 말한다> 저자
*신현호는 30년간 대학, 민간기업, 국회, 행정부에서 활동했고 <나는 감이 아니라 데이터로 말한다>를 썼다. ‘소설로 읽는 경제학’은 일반인이 경제현상에 쉽게 다가가고 동시에 경제와 금융 종사자가 소설에 매력을 느낄 수 있도록 소설 속에서 경제를 발견하는 연재다. 3주마다 연재.
Copyright © 한겨레21. All rights reserved. 무단 전재, 재배포 및 크롤링 금지.