페어 트레이딩(통계적 차익거래): 두 종목의 스프레드로 시장 방향과 무관하게 버는 법

지금까지와 다른 질문: "한 종목"이 아니라 "두 종목의 관계"

이 코스에서 지금까지 다룬 평균회귀 전략들(3강, 10강)은 전부 하나의 종목이 자기 자신의 평균(이동평균, 볼린저밴드, VWAP)에서 얼마나 벗어났는지를 봤습니다. 이번 강의에서 다루는 페어 트레이딩(Pairs Trading)은 완전히 다른 질문을 던집니다 — 한 종목의 가격이 아니라, 평소 함께 움직이던 두 종목 사이의 가격 관계가 평소보다 벌어졌는지를 봅니다.

예를 들어 삼성전자와 SK하이닉스는 둘 다 반도체 업황이라는 같은 거시 변수에 노출돼 있어서 평소 비슷한 방향으로 움직이는 경향이 있습니다. 그런데 특정 며칠 동안 삼성전자만 유독 강하게 오르고 SK하이닉스는 그대로라면, 이 "괴리"가 산업 펀더멘털의 진짜 변화 때문인지, 아니면 일시적인 수급 쏠림 때문인지를 판단해야 합니다. 페어 트레이딩은 후자, 즉 일시적인 괴리는 결국 좁혀지는 경향이 있다는 전제 위에 서 있는 전략입니다.

이 접근은 흔히 통계적 차익거래(Statistical Arbitrage, Stat Arb)라는 더 넓은 범주의 가장 원형적인 형태로 소개됩니다. 실제로 르네상스 테크놀로지, D.E. Shaw, Two Sigma 같은 대형 퀀트 헤지펀드들이 이 아이디어를 정교하게 확장한 전략을 오랫동안 운용해온 것으로 알려져 있습니다. 다만 분명히 짚어야 할 점이 있습니다 — 1990~2000년대 초 개인 트레이더도 쉽게 잡을 수 있었던 단순한 페어 트레이딩의 초과수익 기회는 알고리즘 트레이딩이 시장 거래량의 상당 부분을 차지하게 되면서 상당히 줄어들었다는 것이 현재 업계에서 공통적으로 언급되는 평가입니다. 그렇다고 이 전략의 사고방식 자체가 무의미해진 것은 아니며, 개인 투자자에게도 여전히 "시장 방향과 무관한(마켓뉴트럴)" 포지션을 만드는 법을 이해하는 유용한 프레임워크입니다.

핵심 메커니즘: 롱숏으로 만드는 마켓뉴트럴 포지션

페어 트레이딩의 구조는 간단합니다. 평소 함께 움직이는 두 종목 A, B가 있을 때:

• 스프레드(둘 사이의 상대적 가격차)가 평소보다 비정상적으로 벌어지면: 상대적으로 비싸진 종목을 매도(공매도)하고, 상대적으로 싸진 종목을 매수합니다.
• 스프레드가 다시 평소 수준으로 좁혀지면: 두 포지션을 동시에 청산해 차익을 실현합니다.

여기서 핵심은 개별 종목이 오르든 내리든 상관없다는 점입니다. 삼성전자와 SK하이닉스를 동시에 롱/숏으로 들고 있으면, 반도체 업황 전체가 좋아져서 둘 다 오르든, 전체 시장이 하락해서 둘 다 내리든, 손익은 "둘 사이의 상대적 차이"에서만 발생합니다. 이 성질을 마켓뉴트럴(Market Neutral)이라고 부르며, 지수가 횡보하거나 하락하는 국면에서도 스프레드가 벌어졌다 좁혀지기만 하면 수익을 낼 수 있다는 점이 방향성 베팅 전략들과 가장 다른 부분입니다. 물론 이는 양쪽 다리(leg)의 손익이 실제로 반대 방향으로 정확히 상쇄된다는 가정 위에서만 성립하며, 실전에서는 이 상쇄가 완벽하지 않다는 점을 뒤에서 다시 다룹니다.

상관관계만으로는 부족하다: 코인테그레이션이라는 조건

"두 종목이 같이 움직인다"를 판단할 때 가장 먼저 떠오르는 지표는 상관계수(correlation)입니다. 하지만 상관관계만으로 페어를 고르면 함정에 빠지기 쉽습니다. 상관관계는 두 가격의 "방향"이 비슷하게 움직였는지만 볼 뿐, 그 관계가 시간이 지나도 일정한 폭 안에서 유지되는지는 말해주지 않기 때문입니다. 두 종목이 몇 달간 우연히 비슷하게 올랐을 뿐 근본적인 연결고리가 약하다면, 상관계수는 높게 나와도 스프레드는 다시 좁혀지지 않고 한쪽으로 영영 벌어져 버릴 수 있습니다.

퀀트 트레이더들이 실제로 더 중요하게 보는 성질은 코인테그레이션(Cointegration, 공적분)입니다. 쉽게 풀면 이렇습니다.

개념	확인하는 것	한계
상관관계(Correlation)	두 가격이 같은 방향으로 움직이는 정도	일시적 우연으로도 높게 나올 수 있음
코인테그레이션(Cointegration)	두 가격의 "차이(스프레드)" 자체가 평균으로 되돌아오는 정성이 있는지	계산이 더 복잡하고, 과거에 성립했다고 미래에도 성립한다는 보장은 없음

실무적으로는 정교한 코인테그레이션 검정(예: Engle-Granger 검정) 없이도, 같은 업종·같은 밸류체인·유사한 사업 구조를 가진 종목 쌍(예: 삼성전자-SK하이닉스, 코카콜라-펩시, 국내 통신 3사 상호 간)을 고르는 것만으로도 스프레드가 구조적으로 되돌아올 가능성을 어느 정도 높일 수 있습니다. 이는 "왜 두 종목의 가격이 장기적으로 비슷한 궤적을 그려야 하는가"에 대한 펀더멘털 근거가 있기 때문입니다. 관계없는 두 종목을 단순히 최근 상관계수가 높다는 이유만으로 페어로 묶는 것은 이 전략에서 가장 흔한 실수 중 하나로 꼽힙니다.

스프레드와 Z-스코어 계산법

실전에서 페어 트레이딩을 규칙화하려면 "스프레드가 평소보다 얼마나 벌어졌는가"를 숫자로 표현해야 합니다. 가장 널리 쓰이는 방법은 다음 순서입니다.

1단계 — 스프레드 정의. 가장 단순한 방식은 가격 비율(A ÷ B)을 스프레드로 쓰는 것입니다. 더 정교한 방식은 A를 B에 대해 회귀분석(OLS)해서 헤지비율(β)을 구하고, 스프레드 = A − β×B로 정의합니다. 헤지비율을 쓰면 "A를 1주 살 때 B를 몇 주 팔아야 두 다리의 금액 노출이 맞는가"까지 자연스럽게 계산됩니다.

2단계 — 롤링 평균과 표준편차 계산. 최근 N일(관례적으로 20~60일 구간이 자주 쓰이며, 이는 검증된 최적값이라기보다 흔히 참고되는 범위입니다) 동안의 스프레드로 이동평균과 표준편차를 계산합니다.

3단계 — Z-스코어 산출.

Z-스코어 = (오늘의 스프레드 − 롤링 평균) ÷ 롤링 표준편차

Z-스코어는 "오늘의 스프레드가 최근 평균에서 표준편차 몇 배만큼 벗어났는가"를 나타냅니다. Z-스코어가 +2라면 "평소라면 잘 나오지 않는 수준으로 스프레드가 벌어졌다"는 뜻이고, −2라면 반대로 비정상적으로 좁혀졌다는 뜻입니다.

진입·청산·손절 규칙

Z-스코어를 계산했다면 매매 규칙은 비교적 명확하게 정할 수 있습니다. 아래는 커뮤니티와 퀀트 교육 자료에서 흔히 참고되는 관례적 기준이며, 절대적인 정답이 아니라 출발점으로 다루는 것이 안전합니다.

상황	Z-스코어 조건(관례)	행동
스프레드 과도하게 확대	Z ≥ +2	스프레드 축소에 베팅: A 매도(공매도) + B 매수
스프레드 과도하게 축소	Z ≤ −2	스프레드 확대에 베팅: A 매수 + B 매도(공매도)
평균 회귀 완료	Z가 0 부근으로 복귀	양쪽 포지션 동시 청산, 차익 실현
관계 붕괴 의심	Z ≥ +3~4 (또는 손실 한도 도달)	손절: 스프레드가 되돌아오지 않는다고 판단하고 강제 청산

여기서 마지막 줄이 특히 중요합니다. Z-스코어가 절대적인 상한 없이 계속 벌어질 수 있다는 사실은 이 전략의 가장 큰 리스크입니다. "이렇게까지 벌어졌으니 곧 되돌아오겠지"라는 생각으로 손절 없이 버티는 것은, 마치 평균회귀 전략에서 흔히 경고하는 "떨어지는 칼날을 잡는" 행동과 본질적으로 같습니다. 페어 트레이딩에서는 이를 종종 "다가오는 증기 롤러 앞에서 동전 줍기"라고 표현하는데, 스프레드가 평소 범위로 복귀한다는 통계적 습성에 기대는 것이지 반드시 복귀를 보장하는 법칙이 아니기 때문입니다.

숫자로 보는 예시

반도체 업종에서 함께 움직이는 경향이 있는 가상의 두 종목 A(대형주)와 B(중형주)를 가정합니다. 최근 30거래일 동안 가격 비율(A÷B)의 평균이 2.40, 표준편차가 0.05였다고 합시다.

오늘 A가 72,000원, B가 29,000원이라면 가격 비율은 72,000 ÷ 29,000 ≈ 2.483입니다.

Z-스코어 = (2.483 − 2.40) ÷ 0.05 = 1.66

아직 관례적 진입 기준인 ±2에는 못 미치는 수준입니다. 만약 다음날 A가 73,500원까지 추가로 오르고 B는 28,800원으로 소폭 내려서 비율이 2.552까지 벌어졌다면:

Z-스코어 = (2.552 − 2.40) ÷ 0.05 = 3.04

이 시점에서는 스프레드가 관례적 진입 기준(+2)을 넘어 손절 구간(+3~4)에 근접한 상태입니다. 보수적인 트레이더라면 이 정도로 이미 확대된 스프레드에 신규 진입하기보다는, Z-스코어가 +2를 막 넘어서는 더 이른 시점에 진입해 A를 공매도하고 B를 매수한 뒤, 이후 비율이 평균(2.40) 근처로 되돌아올 때 두 포지션을 함께 청산하는 방식을 취합니다. 만약 비율이 오히려 3.0 이상으로 계속 확대된다면, 이는 두 종목의 펀더멘털 관계 자체가 바뀌었을 가능성을 의미하므로 손절 규칙에 따라 포지션을 정리해야 합니다.

왜 마켓뉴트럴 구조가 강점이자 동시에 비용인가

페어 트레이딩의 가장 큰 매력은 방향성 전략들과 상관관계가 낮다는 점입니다. 지수가 급락하는 국면에서도, 골라낸 페어의 스프레드가 정상 범위 안에 있다면 이 전략은 손익에 큰 영향을 받지 않을 수 있습니다. 이는 6강 손익비(R:R)와 자금관리에서 다룬 관점에서, 방향성 전략 위주의 포트폴리오에 편입했을 때 전체 계좌의 변동성을 낮추는 분산 효과로 이어질 수 있습니다.

다만 이 구조는 공짜가 아닙니다.

• 양쪽 다리의 거래 비용이 두 배로 든다. 한 번의 진입·청산에 매수·매도 두 종목씩, 총 네 번의 체결이 발생하므로 수수료와 슬리피지가 단일 종목 전략보다 누적되기 쉽습니다.
• 공매도 다리에는 대주 비용과 제약이 따른다. 국내 시장에서 개인이 공매도를 실행하려면 대주 가능 여부, 대주 수수료, 상환 기한 등 제약이 있고, 종목에 따라 아예 공매도 물량을 구하지 못할 수도 있습니다.
• 완벽한 헤지는 이론에 가깝다. 헤지비율(β)을 아무리 정교하게 계산해도 실시간으로 두 종목의 민감도가 변하기 때문에, 실제로는 "시장 방향에 100% 무관"하기보다 "시장 방향에 훨씬 덜 민감"한 수준에 가깝습니다.

한계와 유의점

• 상관관계 붕괴 리스크(Structural Break): 페어 트레이딩에서 가장 큰 손실은 대부분 "스프레드가 되돌아올 것"이라는 전제 자체가 깨질 때 발생합니다. 두 회사 중 한쪽에서만 인수합병, 실적 쇼크, 규제 이슈 같은 회사 고유 이벤트가 터지면 과거의 관계는 더 이상 유효하지 않을 수 있습니다. 반드시 손절 기준을 사전에 정해야 합니다.
• 페어는 주기적으로 재검토해야 한다: 한 번 유효했던 페어가 영원히 유효한 것은 아닙니다. 업종 구조 변화, 사업 다각화, 지수 편입·편출 등으로 상관관계 자체가 서서히 약해질 수 있으므로, 분기 단위 정도로 페어의 관계가 여전히 유효한지 재점검하는 습관이 필요합니다.
• 초과수익 기회는 과거보다 줄었다는 평가가 많다: 앞서 언급했듯, 단순한 형태의 페어 트레이딩은 이미 널리 알려진 방법이라 기관 알고리즘들이 선점하는 경우가 많습니다. 개인 투자자가 접근할 때는 "쉽게 반복적으로 이기는 공식"이 아니라 "포트폴리오 분산과 리스크 관리 관점의 보조 전략"으로 접근하는 편이 현실적입니다.
• 백테스트 과최적화에 취약하다: 진입 기준(Z=2)과 룩백 구간(20~60일) 같은 파라미터를 과거 데이터에 맞춰 지나치게 세밀하게 조정하면, 그 결과가 미래에는 재현되지 않는 경우가 흔합니다. 파라미터는 라운드 넘버 수준에서 단순하게 유지하는 편이 과최적화 위험을 줄입니다.

정리

• 페어 트레이딩은 한 종목의 자기 평균이 아니라, 평소 함께 움직이는 두 종목 사이의 상대적 가격차(스프레드)가 비정상적으로 벌어졌는지를 보는 통계적 차익거래 기법입니다.
• 스프레드가 벌어지면 비싸진 쪽을 공매도하고 싸진 쪽을 매수해 마켓뉴트럴 포지션을 만들고, 스프레드가 평균으로 되돌아오면 동시에 청산합니다.
• 단순 상관관계보다 코인테그레이션(스프레드 자체의 평균회귀 성질)이 더 중요한 개념이며, 실무적으로는 동일 업종·유사 사업구조의 종목 쌍을 고르는 것이 대안이 될 수 있습니다.
• 스프레드를 Z-스코어로 정규화해 ±2 부근에서 진입, 0 부근에서 청산, ±3~4 부근에서 손절하는 것이 흔히 참고되는 관례적 규칙이지만 검증된 절대 기준은 아닙니다.
• 마켓뉴트럴 구조는 시장 방향과의 상관관계를 낮춰주지만, 두 배의 거래 비용, 공매도 제약, 불완전한 헤지라는 대가를 동반합니다.
• 가장 큰 리스크는 "관계가 되돌아올 것"이라는 전제 자체가 깨지는 구조적 붕괴이므로, 반드시 사전에 정한 손절 기준과 함께, 그리고 6강의 자금관리 원칙과 함께 운용해야 합니다.