시스템 트레이딩 기초 — 규칙으로 거래하는 법

시스템 트레이딩은 "미리 정의된 규칙에 따라 기계적으로 매매하는 방식"이다. 규칙은 단순할 수도(이평선 골든크로스), 복잡할 수도(머신러닝 모델) 있다. 핵심은 의사결정에서 감정·직감을 제거하는 것이다.

1. 시스템 트레이딩의 장단점

장점

감정 매매 차단 — FOMO·복수매매 자동 방지
일관성 — 시장 상황에 따라 규칙이 흔들리지 않음
백테스팅 가능 — 과거 데이터로 사전 검증
확장성 — 동시 다종목·다전략 운영

단점

시장 구조 변화에 적응 어려움 (regime change)
드로다운 구간 인내가 필요 (감정과는 다른 종류의 어려움)
오버피팅 — 과거 데이터에만 맞춰진 무용한 규칙

2. 시스템 구축 5단계

① 가설 정의

"이런 조건에서 가격이 오른다"는 명확한 명제. 예: "20일 신고가 돌파 시 매수, 10일 신저가 시 청산". 가설은 경제적 논리가 있어야 한다(왜 작동하는가?).

② 진입·청산 규칙 명문화

진입 조건 (지표·가격·거래량)
청산 조건 (목표가·손절가·시간)
포지션 크기 결정 규칙
예외 상황 처리 (갭 발생 시 대응 등)

③ 백테스팅

10년 이상 과거 데이터에 규칙을 적용해 결과 검증. 핵심 지표:

총 수익률·CAGR
최대 낙폭(MDD) — 견딜 수 있는가?
샤프 지수 (위험 조정 수익률)
승률·평균 손익비(R:R)

④ Walk-Forward 검증

2010~2020 데이터로 최적화 → 2021~2024 데이터로 검증. 최적화 기간만 좋고 검증 기간이 망가지면 오버피팅.

⑤ 페이퍼 트레이딩 → 소액 실거래

실시간 시장에서 1~3개월 페이퍼 트레이딩, 이후 자산의 5~10%로 시작.

3. 가장 흔한 시스템 유형

추세 추종 (Trend Following)

이평선 돌파·N일 신고가 돌파에 매수, 추세 약화 시 청산. 승률 30~40%지만 큰 추세 한 번이 작은 손실들을 모두 만회. 시장의 마법사들 다수가 이 방식.

평균 회귀 (Mean Reversion)

가격이 평균에서 크게 벗어나면 돌아올 것에 베팅. 볼린저밴드 하단 매수·상단 매도가 전형. 박스권에서 잘 작동, 추세장에서 큰 손실.

모멘텀 (Momentum)

최근 N개월 강한 종목이 다음 기간도 강하다는 가설. 월 1회 리밸런싱이 일반적. 행동경제학 기반 학술 연구가 풍부.

페어 트레이딩

역사적으로 함께 움직이는 두 종목의 스프레드가 벌어지면 진입. 시장 방향성과 무관한 시장 중립 전략.

4. 백테스팅의 함정

생존 편향: 폐지된 종목 제외하면 결과 과대 추정
미래 정보 누설: 발표 전 데이터 사용 (look-ahead bias)
거래비용 무시: 수수료·슬리피지 포함해야 현실적
과최적화: 변수 너무 많이 튜닝 = 우연 결과

5. 자동화 도구

Python + ccxt: 암호화폐 거래소 자동화 표준
Backtrader, Zipline: 백테스팅 라이브러리
TradingView Pine Script: 코드 없이 시각적 백테스팅
QuantConnect, Alpaca: 클라우드 백테스팅 + 라이브 거래
국내 키움 API·이베스트 API로 자동주문 가능

6. 라이브 운영 시 주의

네트워크 장애·API 다운 대비 — 수동 청산 절차 준비
전기·서버 다운 — 클라우드 인스턴스 사용
플래시 크래시 시 폭주 매매 차단 (max position size 하드 리미트)
매주 수익률 vs 백테스트 결과 비교 — 괴리 크면 시스템 점검

7. 시작 단계의 함정

대부분의 초보자는 다음 함정에 빠진다:

너무 복잡한 시스템 — 단순한 게 더 강하다 (KISS)
3개월 안 좋아서 즉시 폐기 — 어떤 시스템도 매월 수익 못 냄
여러 시스템을 동시에 변경 — 무엇이 효과 있는지 알 수 없음

다음 단계

시스템 트레이딩은 "좋은 규칙"보다 "꾸준한 집행"이 훨씬 중요하다. 평범한 시스템도 일관되게 5년 운영하면 결과가 나오고, 천재적 시스템도 감정으로 흔들면 망한다. 포지션 사이징과 트레이딩 일지를 시스템 운영의 두 축으로 삼아 시작하라.