최고의 수학자에서 투자의 神으로… 워런 버핏도 울고 간 수익률 기록

[테크노 사이언스의 별들]
시장을 풀어낸 수학자, 억만장자 제임스 시먼스

1938년 미국 매사추세츠주 보스턴 근교의 마을 뉴턴에서 태어난 소년 제임스 시먼스(James Harris Simons)는 똑똑했지만 산만했다. 14세 때 일한 정원 용품 매장에서는 다른 생각을 하느라 물품을 엉뚱한 곳에 두기 일쑤였다. 주인 부부는 “매사추세츠공과대(MIT)에서 수학을 공부하고 싶어요”라는 소년의 장래 희망을 듣고 실소를 터뜨렸다. 시먼스는 훗날 “그들은 평생 들은 말 중 가장 어이없는 얘기라 생각했을 것”이라고 회고했다. 시먼스도 자신이 MIT를 졸업하고 하버드와 뉴욕 스토니브룩 수학과 교수를 거쳐 세계에서 가장 부유한 과학자가 될 운명이라고는 예상하지 못했을 것이다. 한 분야에서 최고가 되는 사람도 극히 드문 시대에 시먼스는 전혀 다른 것으로 여겨지던 수학과 금융이라는 두 분야를 정복했다. 세상을 그를 ‘세계에서 가장 똑똑한 억만장자’ ‘시장을 풀어낸 수학자(The man who solved the market)’라고 부른다. 그가 세운 헤지 펀드 ‘르네상스 테크놀로지’는 워런 버핏, 조지 소로스, 피터 린치, 레이 달리오 같은 투자의 신들을 압도하는 수익률을 기록했다. 300명에 불과한 르네상스가 벌어들이는 연간 수익은 수만 명을 고용한 언더아머, 리바이스, 하얏트 호텔보다 많다.

◇25세 하버드 수학 교수

시먼스는 뛰어난 학생이었지만 MIT의 천재들에 비하면 자신이 특별하지 않다고 생각했다. 어느 날 지도교수인 워런 암브로스와 이사도르 싱어가 밤늦은 시간에 동네 카페에서 토론하는 모습을 본 뒤 그들처럼 ‘담배와 커피, 수학이 한데 어울리는 삶을 살겠다’고 결심했다. 끊임없이 난제에 도전했고, 캘리포니아 버클리대 박사 과정을 마친 뒤에는 25세에 하버드 교수가 됐다. 시먼스가 맡은 강의는 편미분 방정식이었는데 그는 전문가가 아니었다. 학생들은 “당신들보다 일주일 먼저 배우고 있다”고 거침없이 말하는 젊은 교수를 좋아했다. 문제는 시먼스가 대학교수라는 명예에 만족하지 못했다는 것이다. 어린 나이에 결혼한 시먼스는 끊임없이 부(富)를 갈망했다. “다른 사람이 돈의 힘으로 나를 지배하기를 원치 않는다”는 것이 그의 신조였다. 불과 1년 만에 모두가 선망하는 하버드대 교수직을 박차고 나와 국가안전보장국의 국방분석연구소(IDA)로 자리를 옮긴 것도 단순히 돈을 많이 준다는 이유였다.

IDA는 냉전 관계에 있던 옛 소련의 암호를 해독하는 기관이었다. 이곳에서 시먼스는 컴퓨터 알고리즘을 이용하는 법을 배웠고, 컴퓨터를 이용해 주식이나 상품 거래 시스템을 구축할 수 있다는 아이디어를 떠올렸다. 하지만 국가 기관 소속으로 베트남전에 반대하는 뉴스위크 인터뷰를 하면서 곧바로 해고됐다. “하노이 폭격보다 로스앤젤레스에서 가장 낙후된 지역 재건이 우리 국가를 더 강하게 만드는 방법”이라는 것이 그의 생각이었다.

◇수학계의 정점에 서다

학계는 뛰어난 수학자를 그대로 내버려두진 않았다. 뉴욕주립대가 서른 살의 시먼스에게 스토니브룩 수학과 학장 자리를 제안했다. 시먼스는 코넬대의 제임스 엑스를 비롯한 유명 교수들을 현란한 말솜씨와 전략으로 유치하며 학과의 명성을 높이기 위해 노력했고, 자신의 기하학 이론을 확립하는 데도 애썼다. 다른 사람들이 “그건 수많은 학자들이 도전했지만 실패한 일”이라고 건네는 조언이 그의 가장 큰 동기부여였다. 1974년 시먼스는 버클리의 천싱셴과 함께 모든 차원의 곡선 공간에 있는 형체를 수량화하는 ‘천-시먼스 이론’을 발표한다.

지식공유강연 TED에서 호스트인 크리스 앤더슨이 “이 이론에 대해 설명해줄 수 있느냐”고 묻자, 시먼스는 단호하게 “아니요”라고 답했다. 쉽게 설명할 수 없다는 뜻이었다. 이 이론은 오늘날까지 사흘에 한 번꼴로 인용되며 만물의 최소 단위가 점이 아닌 ‘진동하는 끈’이라는 ‘끈 이론’의 토대가 됐고, 상호작용이 강한 물질의 거시적 성질을 다루는 ‘응집 물리’에서도 활용된다. 양자 컴퓨터 개발 역시 천-시먼스 이론이 없었다면 불가능했다. 시먼스는 이 공로로 미국수학학회의 오즈월드 베블린 기하학상을 받으며 수학계의 정점에 섰다. 전 세계 수학자들은 그가 언제 또 다른 난제를 풀어낼지 주목했다. 하지만 그런 일은 일어나지 않았다.

◇맨해튼 프로젝트의 상업적 버전

시먼스는 20대 초반부터 대두 등 곡물 같은 선물 거래에 투자해 꽤 많은 부수입을 올렸다. 그의 머릿속에는 항상 “통화가 3일 연속 하락했다면, 4일 연속 하락할 확률은 얼마인가” “금 가격이 은 가격을 이끄는가” 같은 질문이 떠나지 않았다. 시장에는 패턴이 있고, 이 패턴을 풀어내면 투자에 성공할 수 있다는 것이 시먼스의 결론이었다. 시먼스는 “태양 흑점과 달의 위치가 금융 시장에 미치는 영향에 대해서도 연구했다”면서 “모든 일에 법칙이 있을 것이라 생각했지만, 정말 멍청한 짓이었다”고 했다. 시먼스는 자신의 생각을 실제 월스트리트에서 입증하기로 결심한 뒤 대학을 그만두고 투자회사 ‘모네 매트릭스(Monemetrics)’를 세웠다. 돈(money)과 계량 경제학(econometrics)을 조합한 단어였다. 최고의 인재를 고용해 시장 데이터를 분석해 투자에 성공할 수 있는 완벽한 수학적 공식을 만들겠다는 목표였다.

시먼스는 트레이더의 감과 다른 투자자들의 동향, 기업들의 보고서 등에 의존하는 투자는 정답이 아니라는 확신이 있었다. 하지만 모네 매트릭스를 운영하면서 자신 역시 기존 투자자들을 따라 하고 있다는 것을 깨닫자 전혀 다른 접근 방식을 택했다. 금융에 대한 지식도, 월스트리트에서 일한 경험도 없는 천재들을 끌어들이기 시작한 것이다. 수학자, 컴퓨터 공학자, 데이터 전문가, 알고리즘 개발자, 기상학자 등이 시먼스의 비전에 공감하거나 엄청난 보상을 약속받고 몰려들었다. 아이비리그 대학교수 자리, IBM 연구원 자리를 박차고 온 사람도 있었다. 월스트리트저널은 “원자폭탄을 만들어낸 맨해튼 프로젝트의 상업적 버전”이라고 했다. 회사 이름도 르네상스 테크놀로지로 바뀌었다. 오늘날 모든 투자의 기본이 된 ‘퀀트(Quant) 투자’가 태동한 순간이었다.

그래픽=정인성

◇시대를 앞서간 딥 러닝

시먼스와 동료들은 시장의 미래가 과거에 있다고 봤다. 과거의 데이터를 무한정 모아 분석하면 ‘시장의 소음 속에 숨겨진 신호를 찾을 수 있게 되면서’ 미래 예측이 가능해진다는 것이다. 값비싼 컴퓨터와 (당시 기준으로는)초고속 통신 연결, 데이터 저장 장치를 사모았고 그 결과 르네상스는 금융 투자 업계에서 아무도 갖지 못한 과거의 실시간 시장 가격 데이터베이스를 독점하게 됐다. 그때만 해도 아무 쓸모 없어 보이는 비싼 쓰레기에 불과했지만, 결국 이는 엄청난 돈이 됐다. 선물과 주식 매매 프로그램이 업그레이드될수록 더 짧은 기간의 경향을 읽을 수 있게 됐고 초단타 매매가 가능해졌다. 뉴욕타임스는 “빅데이터를 이용해 시장을 분석하는 시먼스의 방식은 인공지능(AI)의 핵심 기술인 ‘딥 러닝(심층학습)’과 유사했다”고 했다. 르네상스가 본격적으로 이 프로그램을 개발하기 시작한 것은 1980년대 중반이었다. 딥 러닝이 AI 학계에서 주목받기 시작한 것이 2000년대 이후라는 점을 감안하면 무려 15년을 앞서간 것이다.

실제로 시먼스의 투자 방식은 ‘블랙박스’로도 불린다. 프로그램이 내놓은 매매 주문의 이유를 사람이 명확하게 알 수 없기 때문이다. 오늘날 오픈AI의 챗GPT나 구글의 바드가 내놓은 답변이 어떻게 나왔는지 명확하게 알 수 없는 것과 마찬가지이다.

◇”수학은 분명히 통한다”

르네상스의 핵심인 메달리온 펀드는 1988년 이래 1000억달러(약 134조원) 이상을 벌어들였다. 시먼스의 자산은 280억달러, 지구상에 그보다 더 많은 돈을 가진 사람은 49명에 불과하다. 시먼스가 영입한 회사 직원들도 모두 엄청난 부자가 됐다. 르네상스가 위치한 뉴욕주 인근의 초대형 별장의 주인이 모두 르네상스 직원들도 바뀔 정도였다.

시먼스와 르네상스가 시작한 퀀트 투자는 이제 투자의 주류가 됐고, 주식 트레이딩 시장의 30%를 장악하고 있다. 월스트리트저널의 그레고리 주커먼은 “MBA 출신들은 한때 과학적이고 시스템적인 투자 방식에 의존하려는 시먼스의 생각을 조롱하며, 컴퓨터 프로그래머가 필요하면 그냥 고용하면 된다고 했다”면서 “하지만 이제 프로그래머들이 MBA 출신을 두고 같은 말을 한다”고 했다. 심지어 “그럴 필요가 있다면”이라는 단서도 붙였다. 2010년 르네상스 최고경영자 자리에서 내려온 시먼스는 세계 최대의 자선사업가가 됐다. 전 재산의 절반 이상을 기부하는 부자들의 서약 ‘기빙 플레지’의 최초 서명자 중 한 사람이었고, 매년 수학·과학 교육 부흥을 위해 막대한 돈을 내놓고 있다. 그가 세운 ‘매스 포 아메리카(미국을 위한 수학)’ 재단은 매년 1000명이 넘는 수학 교사들에게 각각 1만5000달러 이상을 지원한다.

왜 수학이냐는 질문에 시먼스는 “수학은 현실에서 분명히 통한다”고 했다. 시먼스와 그가 이룬 업적보다 분명한 근거는 없을 것 같다.

☞제임스 시먼스 (1938년 출생)

-MIT 수학과 학사, UC버클리 수학 박사

-MIT·하버드 수학과 교수

-뉴욕주립대 스토니브룩 수학과 학과장

-르네상스 테크놀로지 명예회장

☞퀀트(Quant)

산업과 기업을 분석해 가치를 매기는 정성적 투자와 달리, 수학과 통계를 기반으로 전략을 만들고 이를 바탕으로 투자하는 정량적 투자법. 제임스 시먼스가 세운 르네상스 테크놀로지가 퀀트를 활용하는 대표적 기업이다. 현재 전 세계 주식 매매 거래의 30%가량이 퀀트 방식으로 이뤄지는 것으로 알려져 있다.