원격 서비스

수학으로 시장을 이기고 싶다고? 퀀트 트레이딩의 진짜 이야기

비밀 공식이나 마법 같은 지표에 관한 게 아니다. 확률적으로 사고하고, 데이터를 신뢰하며, 컴퓨터가 당신의 아이디어를 거래하도록 내맡길 용기가 있어야 한다. 첫 번째 "헬로 월드" 스크립트부터 퀀트 트레이딩 면접 질문에서 던지는 그런 두뇌 게임까지, 가감 없이 전부 알려주겠다.

한 친구가 "퀀트 트레이딩이 뭔데? 그냥 이동평균 교차를 코딩해서 돌리는 거 아냐?"라고 묻더라. 웃었지만, 솔직히 그게 씨앗이다. 핵심적으로 퀀트 트레이딩은 수학, 통계, 코드를 사용해 거래 결정을 내리는 것이다. 직감을 체계적인 규칙 세트로 대체한다. 차트를 보며 "저게 머리-어깨 패턴처럼 보이네"라고 생각하는 대신, 그 패턴이 숫자로 무엇을 의미하는지 정확히 정의하고, 20년 치 데이터를 통해 테스트하며, 백테스팅 거래 전략(backtesting trading strategies) 과정이 우위(edge)를 보여준 후에야 실제 돈을 투입한다. 이것이 도박과 사업을 짓는 것의 차이다.

따라서 퀀트 트레이딩을 어떻게 시작할지 고민 중이라면, 너무 복잡하게 생각하지 마라. 과거 가격 데이터(야후 파이낸스면 충분하다)를 가져와서 주피터 노트북을 열고 탐색을 시작해봐라. Python 퀀트 트레이딩이 기본인 데는 이유가 있다. pandas, NumPy, matplotlib 덕분에 데이터를 정리하고 패턴을 찾는 게 아주 쉽다. 첫 프로젝트는 "50일 이동평균이 200일 위로 교차하면 S&P 500을 매수하고, 아래로 교차하면 매도한다"처럼 기본적일 수 있다. 이것이 바로 초보자를 위한 알고리즘 트레이딩(algorithmic trading for beginners)이다: 명확한 진입, 명확한 청산, 감정 개입 없음. 그러면 전략 자체보다 전략을 얼마나 엄격하게 테스트하느냐가 더 중요하다는 사실을 곧 깨닫게 된다. 여기서 백테스팅 거래 전략(backtesting trading strategies)이 등장한다. 과거 데이터에 규칙을 적용해 보며 묻는다: 평균 수익률은? 최대 손실폭(max drawdown)은? 샤프 비율(Sharpe ratio)은? 2008년과 2022년에도 통했는가, 아니면 불장(bull market)에서만 먹혔는가? 백테스트는 예언의 수정 구슬이 아니지만, 중개인에게 힘들게 번 돈을 맡기기 전에 가질 수 있는 유일한 현실 검증 수단이다.

이제 기본을 익혔다면, 더 화려한 퀀트 트레이딩 전략(quantitative trading strategies)을 탐험하게 될 것이다. 상관관계가 깨졌을 때 한 주식을 공매도(short)하고 다른 주식을 매수(long)하는 페어 트레이딩(pairs trading) 모델을 구축할 수도 있다. 또는 팩터 모델(factor models)에 뛰어들어 변동성이 낮은 주식을 사고 베타가 높은 주식을 팔 수도 있다. 중요한 점은: 토끼굴은 깊다. 어느 순간 머신러닝 트레이딩 전략(machine learning trading strategies)이 단순 회귀로는 놓치는 비선형 패턴을 찾아낼 수 있다는 유혹에 빠질 것이다. 나도 그랬다. 모든 기술적 지표에 랜덤 포레스트(random forests)와 XGBoost를 돌려댔다. 짜릿하다. 하지만 훈련 데이터에 과적합(overfit)을 심하게 해서 모델이 표본 외(out-of-sample) 데이터에서 무너지는 걸 깨닫기 전까지는 말이다. 그래서 내 경험 법칙: 단순하고 해석 가능한 것부터 시작하라. 핵심적인 기본 요소(fundamental factor) 하나를 사용한 선형 회귀가 100층 신경망보다 종종 더 나은 성과를 낸다. 그 이유는 단순히 왜 그렇게 행동하는지 이해할 수 있기 때문이다.

이해라는 말이 나왔으니, 좋은 자료와 함께하는 게 좋다. 내 사고방식을 진정으로 바꿔준 퀀트 트레이딩 책(quant trading books)이 몇 권 있다. 어니스트 찬(Ernest Chan)의 『Quantitative Trading』은 독립 트레이더를 위한 완벽한 실전 매뉴얼이다. 거의 손을 잡아주며 완전한 거래 시스템을 구축하는 법을 가르쳐준다. 더 기관적인 관점을 원한다면, 리시 나랑(Rishi Narang)의 『Inside the Black Box』는 퀀트 트레이딩 회사가 어떻게 운영되는지 신비를 벗겨준다. 인프라에 진지하다면, 배리 존슨(Barry Johnson)의 『Algorithmic Trading & DMA』는 체결을 망칠 수도 있는 시장 미시구조(market microstructure)의 까다로운 부분을 다룬다.

이 모든 노력이 가치가 있을지 궁금할 수도 있다. 제인 스트리트(Jane Street), 투 시그마(Two Sigma), 시타델(Citadel) 같은 대형 퀀트 트레이딩 회사에 실제로 취업할 수 있을까? 가능하지만, 기준이 높다. 그들은 단순히 코더를 원하는 게 아니다. 확률적으로 사고하고 자신의 우위(edge)를 몇 문장으로 명확히 설명할 수 있는 사람을 원한다. 그래서 퀀트 트레이딩 면접 질문(quant trading interview questions)이 악명 높다. "미국에서 하루에 소비되는 피자는 몇 제곱피트일까?" 같은 두뇌 게임을 예상하라. 이는 복잡한 문제를 분해하는 능력을 테스트한다. 그리고 수학: 마팅게일(martingales), 확률적 미적분(stochastic calculus), 선형대수. 통계 배경이 녹슬었다면 그 영향이 느껴질 것이다. 하지만 겁먹지 마라. 독립적인 길도 충분히 가능하다. 많은 성공한 퀀트가 중개인 API와 견고한 위험 관리자(바로 당신, 킬 스위치를 가진 사람)를 사용해 홈 오피스에서 자신만의 전략을 운용한다.

도구는 그 어느 때보다 접근하기 쉬워졌다. 백테스팅을 위해 backtrader나 Zipline 같은 무료 라이브러리로 Python 퀀트 트레이딩을 배우고, 그다음 Alpaca나 Interactive Brokers의 API로 실시간 거래로 전환할 수 있다. 백테스팅 거래 전략(backtesting trading strategies)에서 실시간 거래로의 전환은 심리적 전투가 시작되는 지점이다. 완벽해 보이던 60% 승률이 실제 돈이 걸리자 갑자기 30%처럼 느껴질 것이고, 모든 거래를 망설이게 된다. 그래서 자동화가 전부다. 코드가 떨리는 손이 키보드 근처에 없이도 당신의 계획을 실행하게 하는 것. 초보자를 위한 알고리즘 트레이딩(algorithmic trading for beginners)은 종종 감정적인 측면을 간과하지만, 확실히 말하건대, 어려운 부분은 수학이 아니라 규율이다.

한마디 경고: "돈을 찍어내는 AI 트레이딩 봇"을 약속하는 강좌들을 보게 될 것이다. 99%는 쓰레기다. 진짜 머신러닝 트레이딩 전략(machine learning trading strategies)은 정상성(stationarity), 체제 변화(regime change), 거래 비용(transaction costs)에 대한 집요한 초점을 필요로 한다. 신중한 모델링 없이는, 백테스트가 당신이 종가에 매수할 수 있다고 가정할 것이며, 당신의 주문 자체가 시장을 움직인다는 사실을 무시한다. 슬리피지(slippage)만으로도 시뮬레이션에서 훌륭해 보였던 전략을 망가뜨릴 수 있다. 따라서 퀀트 트레이딩 전략(quantitative trading strategies)을 설계할 때 항상 물어봐라: 수수료 후, 스프레드 후, 시장 충격 후에도 여전히 작동할까? 대답이 "겨우"라면, 다시 설계판으로 돌아가라.

마지막으로 한 마디 남기겠다: 작게 시작하고, 호기심을 유지하며, 탐독하라. 그 퀀트 트레이딩 책들(quant trading books)은 스스로 읽히지 않는다. 아이디어 노트를 작성하고, 끊임없이 테스트하며, 실수할 때(분명 실수한다) 손실에서 도망치지 마라. 폭발한 모든 모델은 위험 관리의 교훈이다. 퀀트 트레이딩은 빠른 부자가 되는 방법이 아니다. 하지만 퍼즐 푸는 것을 사랑하고 수개월에 걸쳐 시스템을 개선할 인내심이 있다면, 당신이 구축한 전략이 자는 동안 조용히 돈을 버는 모습을 보는 것만큼 짜릿한 것은 없다. 지금 당장 노트북을 켜고 첫 번째 백테스트를 코딩하라. 미래의 퀀트 자신이 감사할 것이다.