[매경의 창] 트랜스포머가 폭발시킬 주식시장

챗GPT로 투자 수익 낸다는건
'트랜스포머 모델' 오해한 것
사람처럼 알고리즘도 진화
고차원 시스템 개발·활용땐
주식시장서 역할할 날 올 것

구글 바드가 이해 능력에 있어 챗GPT에 견주지 못한다. 잘 알려진 기술도 엔지니어링 능력에 따라 이처럼 큰 차이가 난다. 두 주식 트레이딩 시스템에 이런 차이가 나면 어떻겠는가?

2017년 이후 등장한 역사적 AI 산출물들은 거의 모두 트랜스포머를 기반으로 한다. 챗GPT, 바드, 달리, 알파폴드-2 등이다. 은유적 관계 감지와 추상적 공간변환을 주 수단으로 삼는 계산의 패러다임 체인저다. 트랜스포머는 생성형과 최적화형으로 분화했다. 위의 예에서 알파폴드-2만 최적화형이고 나머지는 다 생성형이다. 최적화형은 출력이 훨씬 복잡해서 시스템의 난도가 두어 단계 더 높다. 몇 달 전 챗GPT로 투자 수익이 난다는 논문이 화제라고 업계의 지인이 알려주었다. 읽어보니 그런 엉터리가 없다. 교묘한 실험 결과의 치팅을 사람들이 잘 해석하지 못했다. 챗GPT는 그런 능력은 없다.

알파폴드-2는 단백질 3차원 구조를 예측하는 시스템이다. 너무 어려워서 천 년의 도전이란 별칭을 가진 문제다. 1992년부터 격년으로 대회를 연다. 정확도가 90%면 맞았다고 간주한다. 2016년까지 우승팀 수준은 정확도가 40% 언저리였다. 충격은 2018년에 일어났다. 알파고의 본산 딥마인드가 알파폴드로 우승했다. 정확도는 58%, 18%포인트 점프업이다. 이것만으로도 경악했는데 2년 후인 2020년에는 88%로 다시 우승했다. 컴퓨터과학의 난제 하나를 근사해로 풀어 트랜스포머의 입력을 2차원으로 확장시키고, 여기에 맞는 트랜스포머의 창의적 확장·변형, 그 뒤에 3차원 해석과 예측을 위한 알고리즘을 붙여 끝장내 버렸다. 알파폴드-2는 최적화 종합선물세트이자 영감의 보고다.

주식 예측 분야에서도 2017년 이후 적어도 500편 이상의 트랜스포머 기반 논문이 쏟아져 나왔다. 필자는 아직 영감을 주는 논문을 한 편도 발견하지 못했다. 정확도도 그렇고, 알파폴드-2가 구사한 기술 수준과는 까마득히 멀다.

예단하긴 이르다. 절망하던 단백질 문제는 커다란 개선의 룸을 숨기고 있었다. 불가능하다는 생각은 데이터에 깃든 '은유적' 관계를 감지하는 능력 부족 탓이었다. 사람은 전문성이 높아질수록 고차원의 은유를 감지하는 능력이 커진다. 알고리즘도 수준이 높을수록 이런 은유를 감지하는 능력이 커진다.

100% 장담할 수는 없지만 필자는 주식 예측 문제에서 추가적인 룸을 느낀다. 알파폴드-2처럼 30%포인트 룸은 가능하지 않다. 그렇지만 그 10분의 1인 단 3%포인트만 점프하면 투자의 게임 체인저가 된다. 혹 6%포인트를 점프하면 '꿈'의 수준이다. 각각 정확도 60%, 63%에 해당한다. 필자는 알고리즘 기반 장기투자 시스템을 성공적으로 운용해 왔지만 단기 예측 연구는 계속 실패해왔다. 부정적이라 판단했다. 알파폴드-2의 내부를 여는 순간 생각이 바뀌었다.

필요한 기술들은 이질적이다. 트랜스포머에 대한 해킹 수준의 이해, 알고리즘과 최적화 기술, 주식 데이터의 질감에 대한 통찰, 알파폴드-2 언저리에서 연결점을 더 찾기 위한 생물정보학 기술 등 이질적인 네댓 가지의 기술을 필요로 한다. 너무 비싸진 개발 장비(GPU)도 장벽이다. 필자의 팀은 트랜스포머 원리와 GPU 구조를 활용해서 수행 시간을 줄이는 시도를 해왔는데 다행히 지난주에 트랜스포머 계산 시간이 품질 희생 없이 5분의 1 정도로 줄었다.

시간을 특정할 수는 없지만 트랜스포머로 인해 투자 시장도 한 번 뒤집어질 수 있을 것 같다. 월스트리트도 이 이질적인 기술들에 고루 익숙한 집단은 아니다. 필자도 관여되어 있어 조심스럽긴 한데 폭풍 전야 같은 느낌이 있다.

[문병로 서울대 컴퓨터공학부 교수·(주)옵투스자산운용 대표]