문과생, 딥러닝으로 투자고수 되다 [생활 속, 수학의 정석]

숫자로 보는 투자의 세계: 퀀트 투자 이야기 (4회)

ⓒ게티이미지뱅크

과거 퀀트 투자자들은 주가, 거래량, 재무제표 같은 전통 데이터에 의존했다. 하지만 인공지능(AI)과 빅데이터 기술이 발전하면서 달라졌다. 셜록 홈스가 작은 단서로 사건을 해결하듯, AI는 인간이 놓치는 미세한 신호들을 포착해 투자 기회를 찾아낸다.

우선, 머신러닝은 퀀트 투자에 혁명을 가져왔다. 전통적 퀀트 모델이 'A가 일어나면 B를 하라'는 고정된 규칙이었다면, 머신러닝은 스스로 패턴을 학습하고 규칙을 업데이트한다. 온라인 쇼핑몰이 고객 구매 패턴을 학습해 추천 상품을 정확하게 제시하는 것처럼, AI 투자 모델도 시장 데이터를 학습하며 예측 정확도를 높여간다.

대체 데이터(Alternative Data)의 활용도 눈에 띈다. 전통적 재무 데이터 외에 위성 이미지로 공장 가동률을 파악하거나, 신용카드 결제 데이터로 기업 매출을 추정하기도 한다. 한 헤지펀드는 맥도널드 매장 주차장의 포화도를 위성으로 관찰해 분기 실적을 예측했다고 한다. 또 다른 펀드는 소셜미디어의 감정 분석을 통해 특정 종목에 대한 투자 심리를 측정한다. 심지어 구글 검색량이나 뉴스 기사의 톤까지도 분석 대상이다.

하지만 AI 퀀트 투자가 만능은 아니다. 가장 큰 문제는 오버피팅(Overfitting)이다. 과거 데이터에만 최적화되어 새로운 상황에서는 제대로 작동하지 않는 현상이다. 마치 기존 시험 문제만 달달 외운 학생이 실제 시험에서 새로운 문제에 응용력이 떨어지는 것과 같다. 실제로 시장 급변기에는 AI 모델도 예상치 못한 손실을 입는 경우가 종종 발생한다.

또한 블랙박스 문제도 있다. AI가 내린 투자 결정의 근거를 인간이 완전히 이해하기 어렵다는 점이다. 수학·통계 기반 퀀트 모델은 '왜 이 주식을 샀는가?'에 명확한 답이 있었지만, 딥러닝 모델의 경우 수많은 파라미터들이 복합적으로 작용해 그 의미를 인간이 해석할 수 없다. 문과생이 투자 고수가 됐지만, 그 이유를 설명하지 못하는 경우가 발생한 것이다.

그럼에도 AI와 빅데이터는 퀀트 투자의 미래를 이끌고 있다. 인간이 처리할 수 없는 방대한 정보를 실시간으로 분석하고, 기존에는 발견할 수 없었던 미묘한 패턴을 찾아낸다. 더 나아가 24시간 지속적으로 시장을 모니터링하며 순식간에 거래를 실행할 수 있다. 중요한 것은 기술을 맹신하지 않고, 인간의 판단과 적절히 조합하는 것이다.

결국 AI 퀀트 투자는 이렇게 말한다: "기계는 패턴을 찾고, 인간은 의미를 부여한다."

연관기사

• 투자 위험에 가격을 매기는 방법 [생활 속, 수학의 정석]
(www.hankookilbo.com/News/Read/A2025061615330000249)

• 퀀트 투자도 마지막 순간엔 선택이다 [생활 속, 수학의 정석]
(www.hankookilbo.com/News/Read/A2025052209560005643)

• '퀀트'…느낌 대신 수학으로 투자한다 [생활 속, 수학의 정석]
(www.hankookilbo.com/News/Read/A2025042110350004047)

이정우 ㈜IFE Analytics 대표