매매기법 · 42/57강 · 3분 읽기
켈리 공식(Kelly Criterion) 포지션 사이징: 풀 켈리 대신 하프 켈리를 쓰는 이유
이 글의 목차
켈리 공식이란: "얼마를 걸어야 하는가"에 대한 답
6강 손익비와 자금관리에서는 손절가와 목표가를 정해 손익비(R:R)를 계산하는 법을 배웠습니다. 그런데 손익비를 아무리 잘 계산해도, 여전히 답하지 못한 질문이 하나 남아 있습니다. "이 거래에 계좌의 몇 퍼센트를 걸어야 하는가?"
바로 이 질문에 수학적으로 답하려는 시도가 켈리 공식(Kelly Criterion)입니다. 1956년 벨 연구소의 존 켈리(John Kelly Jr.)가 통신 이론(정보 이론)에서 유도한 공식으로, 원래는 잡음이 섞인 통신 채널의 정보 전송 효율을 다루던 수식이었습니다. 이후 에드워드 소프(Edward Thorp)가 블랙잭 카드 카운팅과 이후 헤지펀드 운용에 실제로 적용하면서 트레이딩·베팅 세계에 널리 퍼졌습니다.
켈리 공식이 답하는 것은 단 하나입니다 — 승률과 손익비가 주어졌을 때, 장기적으로 계좌를 가장 빠르게 복리로 불리는 베팅 비율은 몇 %인가. "이번 한 판"이 아니라 "이 승률·손익비로 수백, 수천 번 반복했을 때"를 전제로 한 장기 복리 성장 관점의 공식이라는 점이 핵심입니다.
공식과 계산 방법
트레이딩에 맞게 정리한 켈리 공식은 다음과 같습니다.
f* = W - (1-W) / R
- f* : 매 거래마다 계좌에서 걸어야 할 비율(켈리 비율)
- W : 승률 (0~1 사이 값, 예: 55% → 0.55)
- R : 손익비 (평균 이익 ÷ 평균 손실)
숫자로 확인해보겠습니다. 승률 55%, 손익비 2:1(이기면 +2, 지면 -1)인 전략이 있다고 가정합니다.
f* = 0.55 - (1 - 0.55) / 2
f* = 0.55 - 0.45 / 2
f* = 0.55 - 0.225 = 0.325 (32.5%)
계산상으로는 매 거래마다 계좌의 32.5%를 걸어야 장기 복리 성장률이 최대가 된다는 결과가 나옵니다. 승률이나 손익비가 조금만 달라져도 결과는 크게 흔들립니다 — 승률이 45%로 떨어지면 f* = 0.45 - 0.55/2 = 0.175(17.5%)로, 승률이 40%면 f* = 0.40 - 0.60/2 = 0.10(10%)로 줄어듭니다. 승률·손익비 추정이 조금만 틀려도 켈리 비율이 크게 요동친다는 것이 이후 나올 한계점의 출발점입니다.
왜 이 공식이 작동하는가: 산술평균이 아니라 기하평균
켈리 공식의 핵심 통찰은 "베팅 비율이 너무 작으면 성장이 느리고, 너무 크면 오히려 성장이 느려지거나 파산한다"는 데 있습니다. 그 이유는 계좌가 산술적으로가 아니라 복리(기하급수적으)로 불어나기 때문입니다.
베팅 비율을 계속 늘리면 한 번 이길 때 버는 금액도 커지지만, 한 번 크게 잃었을 때 회복에 필요한 수익률은 그보다 훨씬 가파르게 커집니다. 예를 들어 계좌의 50%를 걸어서 손실을 봤다면, 원금을 회복하려면 남은 자본에서 100% 수익을 내야 합니다. 이 비대칭성 때문에 베팅 비율을 특정 지점(f*) 이상으로 계속 키우면, 이기는 횟수가 늘어도 큰 손실 한 번이 그동안의 이익을 통째로 지워버리는 구간에 들어서게 됩니다. 켈리 공식은 바로 이 "너무 작지도, 너무 크지도 않은" 균형점을 수학적으로 계산해줍니다.
이것이 왜 6강의 손익비나 13강의 리스크 필터와 다른 층위의 이야기인지 이해하는 게 중요합니다. 손익비는 "이 한 판이 통계적으로 할 만한 거래인가"를 판단하는 도구이고, 켈리 공식은 그 거래에 "얼마를 걸 것인가"를 정하는 도구입니다. 두 개념은 서로 대체재가 아니라 보완재입니다.
풀 켈리 vs 하프 켈리 vs 쿼터 켈리 비교
실전에서 계산된 켈리 비율(풀 켈리)을 그대로 쓰는 트레이더는 거의 없습니다. 대신 켈리 비율의 절반(하프 켈리)이나 4분의 1(쿼터 켈리)만 베팅하는 프랙셔널 켈리(Fractional Kelly) 방식이 실전에서 훨씬 널리 쓰입니다. 그 이유를 비교표로 보면 명확해집니다.
| 구분 | 베팅 비율 | 기대 성장률(정점 대비) | 변동성·낙폭 |
|---|---|---|---|
| 풀 켈리 (100%) | f* (예: 32.5%) | 100% (이론상 최대) | 매우 큼 — 계좌가 반토막 나는 구간도 흔하다고 알려짐 |
| 하프 켈리 (50%) | f*/2 (예: 16.25%) | 약 75% (근사치) | 풀 켈리 대비 크게 감소 |
| 쿼터 켈리 (25%) | f*/4 (예: 8.1%) | 약 56% (근사치) | 하프 켈리보다도 훨씬 안정적 |
위 표의 "약 75%", "약 56%" 같은 수치는 켈리 공식의 성장률 곡선이 정점 부근에서 완만한(2차함수에 가까운) 모양을 띤다는 성질에서 나오는 널리 알려진 근사치이지, 모든 상황에 정확히 들어맞는 고정 상수는 아닙니다. 다만 방향성만큼은 뚜렷합니다 — 베팅 비율을 절반으로 줄이면 기대 성장률은 그보다 훨씬 적게 줄어들고, 변동성은 훨씬 크게 줄어듭니다. 이 비대칭적인 트레이드오프 때문에, 카드 카운팅과 옵션 차익거래에 실제로 켈리 공식을 적용했던 에드워드 소프조차 실전에서는 하프 켈리 수준을 권장했다고 알려져 있습니다.
켈리 공식의 가장 큰 함정: 추정 오차
켈리 공식의 진짜 위험은 계산 자체가 아니라 입력값을 정확히 알고 있다는 전제에 있습니다. 공식에 들어가는 승률(W)과 손익비(R)는 과거 매매 기록이나 백테스트에서 추정한 값일 뿐, 미래에도 그대로 유지된다는 보장이 없습니다.
문제는 이 공식이 입력값 오차에 매우 민감하다는 점입니다. 실제 승률이 44%인 전략을 55%로 착각하고 그 값으로 켈리 비율을 계산해 베팅하면, 원래 계산상으로는 낮았을 파산 확률이 훨씬 큰 폭으로 뛰어오를 수 있다는 점이 자주 지적됩니다. 표본 수가 적은 전략일수록, 최근 몇 달의 승률이 우연히 좋았던 것뿐인지 진짜 엣지(edge)인지 구분하기 어렵기 때문에 이 위험은 더 커집니다.
또한 켈리 공식은 원래 "각 베팅이 서로 독립적이고 동일한 분포를 따른다"는 가정 위에서 유도됐습니다. 그런데 실제 주식 계좌에서는 같은 섹터 종목 여러 개를 동시에 들고 있거나, 시장 전체가 하락할 때 보유 종목이 한꺼번에 물리는 경우가 흔합니다. 즉 여러 포지션의 손익이 서로 상관관계를 가지는데, 켈리 공식은 이런 상관관계를 반영하지 않으므로 여러 종목에 기계적으로 각각 켈리 비율을 적용하면 실제 리스크는 계산값보다 훨씬 커질 수 있습니다.
실전 적용: 계산기처럼 쓰는 법
- 먼저 표본을 충분히 쌓습니다. 최소 수십~수백 건의 매매 기록에서 승률과 평균 손익비를 직접 계산합니다. 6강에서 다룬 R 멀티플로 기록해두면 이 계산이 훨씬 쉬워집니다.
- f*를 계산한 뒤, 그 값을 그대로 쓰지 않습니다. 대부분의 실전 트레이더는 하프 켈리(f*/2) 이하로 시작하고, 확신이 낮거나 표본이 적을수록 쿼터 켈리(f*/4)까지 낮춥니다.
- 계산값과 무관하게 상한선을 둡니다. 켈리 계산 결과가 아무리 높게 나와도, 한 종목에 계좌의 일정 비율(예: 20~25%) 이상을 걸지 않는다는 규칙을 별도로 정해두는 경우가 많습니다.
- 주기적으로 승률·손익비를 재계산합니다. 전략의 성과가 달라지면 켈리 비율도 함께 재조정해야 합니다. 승률이 하락 추세라면 베팅 비율도 낮추는 것이 원칙입니다.
자주 묻는 질문
켈리 공식은 옵션이나 선물 매매에도 쓸 수 있나요?
원리 자체는 자산군을 가리지 않습니다. 다만 옵션은 손익 구조가 주식보다 비선형적이고(예: 손실이 프리미엄으로 제한되지만 수익은 크게 튈 수 있음), 레버리지가 포함된 상품은 실질적인 베팅 비율이 눈에 보이는 증거금보다 훨씬 클 수 있어 켈리 비율 계산 시 이 점을 반드시 반영해야 합니다.
승률과 손익비를 정확히 모르면 켈리 공식은 쓸모없나요?
정확한 값을 모른다는 것 자체가 실전의 기본 전제이기 때문에, 그래서 프랙셔널 켈리를 쓰는 것입니다. 추정치에 불확실성이 크다는 걸 알고 있다면, 그 불확실성만큼 더 보수적인 비율(쿼터 켈리 이하)을 쓰는 것이 합리적인 대응입니다.
초보자도 켈리 공식을 바로 실전에 적용해야 하나요?
아닙니다. 켈리 공식은 "이미 검증된 승률·손익비를 가진 전략"을 전제로 한 사이징 도구입니다. 아직 자신의 전략이 통계적으로 우위가 있는지조차 확인되지 않은 단계라면, 켈리 비율을 계산하기보다 먼저 6강의 원칙대로 소액·저비율(예: 계좌의 1~2%)로 표본을 쌓는 것이 우선입니다.
정리
- 켈리 공식(f* = W - (1-W)/R)은 승률과 손익비만으로 장기 복리 성장률을 최대화하는 베팅 비율을 계산하는 공식입니다.
- 베팅 비율이 너무 작으면 성장이 느리고, 너무 크면 큰 손실 한 번이 그동안의 이익을 지워버리는 비대칭적 구조 때문에 이 최적점이 존재합니다.
- 풀 켈리는 변동성이 매우 커서, 실전에서는 성장률의 상당 부분을 유지하면서 변동성을 크게 줄이는 하프 켈리·쿼터 켈리 같은 프랙셔널 켈리가 훨씬 널리 쓰입니다.
- 가장 큰 위험은 계산이 아니라 입력값(승률·손익비) 추정 오차입니다 — 값을 살짝 과대평가하기만 해도 파산 확률이 크게 뛸 수 있고, 켈리 공식은 포지션 간 상관관계도 반영하지 않습니다.
- 계산값을 그대로 쓰기보다, 충분한 표본으로 값을 추정하고, 프랙셔널 켈리로 낮춰 쓰고, 별도의 상한선을 두는 방식이 실전에서 권장되는 접근입니다.