효율적 프론티어란 — 마코위츠 포트폴리오 이론으로 최적의 자산배분 찾는 원리

"그래서 정확히 몇 대 몇으로 섞어야 하는가"

상관계수와 분산투자에서 상관관계가 낮은 두 자산을 섞으면 기대수익률은 그대로 두고 변동성만 줄일 수 있다는 원리를 다뤘습니다. CAPM에서는 베타 하나로 개별 종목의 적정 기대수익률을 계산하는 공식도 봤습니다. 그런데 두 강의 모두 한 걸음 앞서 있어야 할 질문 하나를 비워뒀습니다. 여러 자산 중에서 정확히 어떤 조합이 "가장 좋은" 조합인지, 그리고 CAPM이 전제하는 "시장포트폴리오"라는 것이 대체 왜 특별한 자리를 차지하는지에 대한 답입니다. 이 빈칸을 채운 사람이 1952년 해리 마코위츠(Harry Markowitz)이고, 그가 정립한 현대 포트폴리오 이론(Modern Portfolio Theory, MPT)의 핵심 결과물이 바로 효율적 프론티어(efficient frontier)입니다. 이 이론은 이후 노벨 경제학상으로 이어졌을 뿐 아니라, CAPM과 오늘날 인덱스펀드 중심 투자 문화 전체의 이론적 뿌리가 됐습니다.

두 자산을 섞으면 왜 직선이 아니라 곡선이 나오는가

가장 단순한 상황부터 보겠습니다. 기대수익률 8%, 변동성(표준편차) 15%인 자산 A와, 기대수익률 12%, 변동성 25%인 자산 B가 있고, 두 자산의 상관계수가 0.2라고 하겠습니다. 두 자산의 비중을 바꿔가며 섞으면 포트폴리오 전체의 기대수익률과 변동성이 어떻게 바뀌는지 계산한 결과는 다음과 같습니다.

A 비중 / B 비중	포트폴리오 기대수익률	포트폴리오 변동성
100% / 0%	8.0%	15.0%
80% / 20%	8.8%	13.9%
50% / 50%	10.0%	15.8%
20% / 80%	11.2%	20.8%
0% / 100%	12.0%	25.0%

기대수익률은 비중에 비례해 직선으로 움직이지만(8% → 8.8% → 10% → 11.2% → 12%), 변동성은 그렇지 않다는 점이 핵심입니다. A에 100%를 넣었을 때보다 A 80% + B 20%로 섞었을 때가 기대수익률은 오히려 더 높은데(8.0% → 8.8%) 변동성은 더 낮습니다(15.0% → 13.9%). 상관계수가 1보다 작기 때문에 생기는 이 "공짜 이득"이 상관계수와 분산투자에서 다룬 원리 그대로입니다. 이 두 자산으로 만들 수 있는 모든 조합의 기대수익률-변동성 쌍을 그래프에 점으로 찍으면, 직선이 아니라 왼쪽으로 볼록하게 휘어진 곡선이 그려집니다. 자산 수가 둘이 아니라 수십, 수백 개로 늘어나면 이 곡선은 훨씬 매끄러워지고, 조합의 경우의 수도 사실상 무한대로 늘어납니다.

효율적 프론티어 — 같은 위험이면 가장 높은 수익을 주는 조합들의 궤적

위 표를 자세히 보면 흥미로운 사실이 하나 보입니다. A 100%(변동성 15.0%)보다 A 80%+B 20%(변동성 13.9%, 기대수익률 8.8%) 쪽이 위험도 더 낮고 수익률도 더 높습니다. 즉 A 100%는 애초에 선택할 이유가 없는 "비효율적인" 조합입니다. 같은 논리로 A 90%나 A 95% 같은 조합들도 모두 A 80% 근처의 조합에 비해 열등합니다. 이 예시에서 변동성이 가장 낮아지는 지점(대략 A 79%, B 21%)을 최소분산포트폴리오(minimum-variance portfolio)라 부르는데, 이 지점을 기준으로 오른쪽 위(B 비중을 더 늘려 위험도, 기대수익률도 함께 올라가는 방향)에 있는 조합들만 진짜 의미가 있습니다. 같은 위험 수준에서 더 낮은 수익을 주거나, 같은 수익 수준에서 더 높은 위험을 지는 조합은 애초에 고려할 필요가 없기 때문입니다.

이렇게 "주어진 위험 수준에서 달성 가능한 가장 높은 기대수익률(또는 주어진 수익률 수준에서 가장 낮은 위험)"을 만족하는 조합들만 모아놓은 곡선을 효율적 프론티어(efficient frontier)라 부릅니다. 최소분산포트폴리오보다 왼쪽 아래로 처지는 구간(위 예시에서는 A 비중이 80%보다 높은 조합들)은 같은 곡선 위에 있어도 효율적 프론티어에 포함되지 않습니다. 실제 시장에는 수천 개의 주식·채권·원자재가 존재하므로, 이론적으로는 이 모든 자산의 비중을 동시에 조절해가며 매 위험 수준마다 최고의 기대수익률을 주는 조합을 찾아야 진짜 효율적 프론티어가 그려집니다. 개인 투자자가 손으로 계산하기는 사실상 불가능하고, 실무에서는 컴퓨터로 수치 최적화를 돌려 이 곡선을 구하지만, 핵심 원리는 위 두 자산 예시와 똑같습니다.

자산 수가 둘이 아니라 여러 개로 늘어난 일반적인 경우를 그림으로 옮기면 위와 같은 모양이 됩니다. 회색 점들은 개별 종목이나 그때그때 임의로 짠 조합들이고, 이들은 모두 곡선의 오른쪽(또는 아래쪽), 즉 같은 위험이면 더 낮은 수익을, 같은 수익이면 더 높은 위험을 지는 자리에 놓입니다. 파란 곡선만이 "이 위험 수준에서 나올 수 있는 최고의 수익"을 달성하는 조합들이고, 이 곡선 위에 있지 않은 조합을 들고 있다면 이론적으로는 더 나은 대안이 반드시 존재한다는 뜻입니다.

무위험자산을 더하면 벌어지는 일 — 자본시장선(CML)

여기에 국채처럼 위험이 거의 없는 무위험자산을 추가로 섞을 수 있다고 가정하면 그림이 한 번 더 바뀝니다. 무위험자산과 효율적 프론티어 위의 어떤 한 점을 섞으면, 그 둘을 잇는 조합은 곡선이 아니라 직선을 그립니다. 위험이 0인 자산과 위험이 있는 자산을 섞을 때는 상관관계를 따질 필요가 없어, 비중을 바꿔도 위험과 수익률이 그냥 선형으로 움직이기 때문입니다.

이 직선을 무위험수익률 지점에서 시작해 효율적 프론티어에 접하도록(딱 한 점에서 스치도록) 최대한 위로 밀어 올리면, 그 접점을 지나는 직선이 곡선 위의 다른 어떤 점보다도 항상 더 높은 위치에 놓이게 됩니다. 즉 같은 위험을 감수한다면 곡선 위 조합보다 이 직선 위 조합이 무조건 더 높은 기대수익률을 줍니다. 이 직선을 자본시장선(Capital Market Line, CML)이라 부르고, 직선이 곡선에 접하는 바로 그 지점의 포트폴리오를 접점포트폴리오(tangency portfolio) 또는 시장포트폴리오(market portfolio)라 부릅니다. 이론상 이 접점포트폴리오는 위험자산만으로 만들 수 있는 조합 중 유일하게 "더 이상 개선할 수 없는" 조합이라는 뜻입니다.

두 개의 펀드만 있으면 충분하다 — 두 자금 분리 정리

이 결과에서 곧바로 이어지는 결론이 있습니다. 위험을 얼마나 감수하고 싶은지는 투자자마다 다르지만, 정작 "위험자산을 어떻게 섞을 것인가"에 대한 답은 모든 투자자에게 동일하다는 것입니다. 보수적인 투자자든 공격적인 투자자든 위험자산 부분에서는 똑같이 접점포트폴리오를 들고, 다만 그 접점포트폴리오와 무위험자산(현금·국채) 사이의 비중만 각자의 위험 성향에 맞게 조절하면 CML 위 어느 지점이든 도달할 수 있습니다. 위험을 더 감수하고 싶다면 접점포트폴리오 비중을 늘리거나, 심지어 무위험이자율로 돈을 빌려(레버리지) 접점포트폴리오 비중을 100% 넘게 가져갈 수도 있습니다. 제임스 토빈(James Tobin)이 마코위츠의 틀 위에서 정리한 이 결론을 두 자금 분리 정리(two-fund separation theorem)라 부릅니다. "무위험자산 펀드"와 "접점포트폴리오 펀드", 딱 두 개의 펀드만 있으면 모든 투자자의 요구를 충족시킬 수 있다는 뜻입니다.

바로 이 지점이 CAPM이 서 있는 이론적 토대입니다. CAPM은 모든 투자자가 같은 정보를 바탕으로 같은 효율적 프론티어를 보고 있다면, 이론상 모두가 똑같은 접점포트폴리오를 선택하게 되고, 그 결과 시장 전체에서 거래 가능한 모든 위험자산을 시가총액 비중대로 섞은 것이 바로 그 접점포트폴리오(=시장포트폴리오)와 같아진다고 가정합니다. ETF란 무엇인가에서 다룬 시가총액가중 인덱스펀드가 "이론적으로 가장 효율적인 위험자산 조합에 가장 가까운 근사치"로 여겨지는 이유, 그리고 자산배분 실무에서 "현금 비중을 얼마로 가져갈 것인가"만 조절하고 위험자산 내부 구성은 넓은 인덱스 하나로 단순화하는 접근이 자주 권장되는 이유도 결국 이 두 자금 분리 정리로 거슬러 올라갑니다.

이론과 현실 사이 — 효율적 프론티어의 한계

마코위츠의 이론은 우아하지만, 실제로 이 곡선을 그려서 투자에 그대로 쓰려고 하면 몇 가지 현실적인 벽에 부딪힙니다.

첫째, 이 모형은 미래의 기대수익률·변동성·상관관계를 정확히 안다고 가정합니다. 실제로는 이 세 값 모두 과거 데이터로 추정할 수밖에 없고, 추정 기간을 조금만 바꿔도 최적 비중이 크게 달라지는 경우가 흔합니다. "미래에도 과거와 같을 것"이라는 전제 자체가 가장 취약한 고리입니다. 둘째, 상관계수와 분산투자에서 다뤘듯 평상시 낮았던 상관계수가 위기 국면에는 일제히 1에 가깝게 치솟는 경향이 있습니다. 효율적 프론티어가 평상시 데이터로 계산된 것이라면, 정작 분산 효과가 가장 절실한 폭락장에서 그 효과가 기대만큼 나오지 않을 수 있습니다. 셋째, 이 모형은 수익률이 정규분포에 가깝게 움직인다고 가정하는 평균-분산(mean-variance) 틀 위에 서 있는데, 실제 주가 수익률은 정규분포보다 극단적인 폭락·폭등이 더 자주 나오는 이른바 "팻테일(fat tail)" 성향을 보입니다. 넷째, 자본시장선은 누구나 무위험이자율로 자유롭게 빌리고 빌려줄 수 있다고 가정하지만, 실제로는 개인이 국채금리 수준으로 돈을 빌리기는 사실상 불가능해 레버리지 구간의 CML은 이론적 상한에 가깝습니다. 이런 한계들 때문에 실무에서는 마코위츠 최적화 결과를 그대로 쓰기보다, 과거 추정치의 오차를 완충하는 여러 보정 기법(추정치에 인위적인 제약을 거는 방식 등)을 함께 쓰는 경우가 많습니다. 이런 이유로 기관 투자자들도 "매달 마코위츠 최적화를 새로 돌려 비중을 재조정한다"기보다는, 이 이론이 보여주는 방향성 — 상관관계가 낮은 자산군을 폭넓게 섞고, 어느 한 자산에 과도하게 쏠리지 않도록 견제한다 — 을 큰 틀에서 참고하는 방식으로 실무에 녹여내는 경우가 훨씬 많습니다.

정리

• 상관관계가 1보다 낮은 자산을 섞으면 기대수익률-변동성 그래프에 직선이 아니라 왼쪽으로 볼록한 곡선이 그려지고, 이 곡선에서 같은 위험 대비 가장 높은 수익을 주는 윗부분만을 효율적 프론티어라 부릅니다.
• 곡선에서 위험이 가장 낮은 지점이 최소분산포트폴리오이며, 그보다 낮은 수익을 주는 구간은 효율적 프론티어에서 제외됩니다.
• 무위험자산을 더하면 무위험수익률에서 효율적 프론티어에 접하는 직선(자본시장선, CML)을 그릴 수 있고, 그 접점이 접점포트폴리오(시장포트폴리오)입니다.
• 두 자금 분리 정리에 따르면 모든 투자자는 위험 성향과 무관하게 같은 접점포트폴리오를 들고, 무위험자산과의 비중만 조절하면 되며, 이것이 CAPM과 인덱스 투자의 이론적 근거가 됩니다.
• 미래 추정치의 불확실성, 위기 시 상관관계 급등, 팻테일 리스크, 비현실적인 차입 가정 때문에 실제 적용에는 한계가 뚜렷합니다.

자주 묻는 질문

개인 투자자가 효율적 프론티어를 직접 계산할 수 있나요?

자산이 두세 개일 때는 위 예시처럼 손으로도 계산할 수 있지만, 자산 수가 늘어나면 상관관계 행렬이 기하급수적으로 복잡해져 사실상 소프트웨어나 포트폴리오 최적화 도구가 필요합니다. 개인 투자자 수준에서는 정확한 곡선을 그리기보다, "상관관계가 낮은 자산을 섞으면 곡선이 왼쪽으로 휜다"는 원리 자체를 자산배분 판단에 참고하는 정도로 활용하는 것이 현실적입니다.

시장포트폴리오가 실제로 코스피나 S&P500과 같다는 뜻인가요?

이론상의 시장포트폴리오는 전 세계 모든 위험자산(주식·채권·부동산·원자재 등)을 시가총액 비중대로 담은 가상의 조합입니다. 코스피나 S&P500 같은 특정 국가·자산군 지수는 이 이론적 시장포트폴리오의 일부만을 근사한 것이라, 완전히 같다고 보기는 어렵습니다. 다만 실무에서는 계산의 편의를 위해 대표 주가지수를 시장포트폴리오의 대용치로 흔히 사용합니다.

그러면 그냥 인덱스펀드와 현금만 있으면 충분한가요?

두 자금 분리 정리가 시사하는 방향은 그렇습니다. 하지만 이는 모든 투자자가 같은 정보와 같은 기대치를 갖고, 세금·거래비용이 없다는 등 여러 이상적인 가정 위에 서 있는 결론입니다. 현실에서는 세금 구조, 개인별 현금흐름 필요 시점, 특정 견해(밸류·모멘텀 등 팩터 노출) 반영 여부에 따라 인덱스펀드+현금 조합에서 벗어나는 것이 합리적인 경우도 있습니다.

⚠️ 이 글은 정보 제공을 목적으로 하며 투자 조언이 아닙니다. 투자 판단과 그 결과에 대한 책임은 투자자 본인에게 있습니다.