ARCH·GARCH — 분산이 움직이는 시계열의 변동성 모델링

지금까지 살펴본 ARIMA, ETS, Prophet은 모두 평균(mean)을 예측하는 모형입니다. 잔차의 분산이 시간에 따라 일정하다(등분산, homoskedasticity)는 가정이 깔려 있습니다. 그런데 금융 수익률 데이터는 이 가정을 정면으로 위반합니다. 주가가 급락하는 날에는 변동성이 폭발하고, 조용한 시장에서는 변동이 거의 없습니다. 분산 자체가 움직입니다.

이 포스트에서는 이 현상을 직접 모델링하는 ARCH·GARCH 계열을 S&P 500(2010–2024) 실데이터로 분석합니다.

1. 문제 인식 — 변동성 군집화

S&P 500 일별 로그수익률을 시각화하면 두 가지 사실이 드러납니다.

import numpy as np
import pandas as pd
import yfinance as yf
import matplotlib.pyplot as plt
from statsmodels.graphics.tsaplots import plot_acf

sp500   = yf.download('^GSPC', start='2010-01-01', end='2024-12-31')['Close'].squeeze()
returns = np.log(sp500 / sp500.shift(1)).dropna() * 100  # 퍼센트 단위

• 수익률 ACF (왼쪽 아래): lag 1부터 거의 0 — 자기상관 없음. ARIMA 관점에서는 “이미 백색잡음”
• 수익률² ACF (오른쪽 아래): lag 40까지 유의한 자기상관이 지속됨

이것이 변동성 군집화(volatility clustering)입니다.

여기서 “군집화”는 공간적으로 점들이 모여 있다는 뜻이 아니라, 시간축에서 비슷한 변동성 상태가 연속적으로 나타난다는 뜻입니다. 수익률의 방향(오를지 내릴지)은 내일을 예측하기 어렵지만, 수익률의 크기(얼마나 크게 움직일지)는 연속성이 있습니다.

• 주가가 오늘 3% 급락했다면 → 내일도 큰 폭으로 움직일 가능성이 높습니다 (올라도 되고 내려도 됩니다, 단지 크게 움직인다는 것)
• 시장이 오늘 0.1% 소폭 변동했다면 → 내일도 조용할 가능성이 높습니다

즉 “큰 변동은 큰 변동끼리, 작은 변동은 작은 변동끼리 시간상 가까운 구간에 몰려 나타난다“는 현상입니다. 차트에서 2020년 COVID 충격 구간을 보면 수익률 제곱이 한꺼번에 폭발하고 이후 서서히 잦아드는 패턴이 뚜렷합니다. 수익률² ACF에서 lag 40까지 자기상관이 남아있다는 것은, 오늘의 변동성이 40 거래일(약 2개월) 이전의 변동성과도 통계적으로 연관된다는 뜻입니다.

ARIMA는 수익률의 방향 구조를 다루는 모형이라 이 분산 구조를 포착할 수 없습니다.

2. ARCH — 조건부 분산의 자기회귀

“조건부(conditional)”가 무슨 뜻인가

통계에서 “조건부”는 “특정 정보를 알고 있다는 전제 하에”라는 뜻입니다. 분산에 적용하면 다음과 같이 구분됩니다:

• 무조건부 분산: 아무 정보 없이 계산한 장기 평균 분산. 전체 데이터를 통틀어 “평균적으로 분산이 얼마다”를 나타내는 고정된 숫자 하나
• 조건부 분산: 어제까지의 수익률과 충격을 알고 있을 때 오늘의 분산. 매일 새로운 정보가 들어올수록 업데이트되어 날마다 달라짐

ARCH·GARCH에서 “어제까지 알고 있는 정보”는 구체적으로 두 가지입니다:

참조하는 과거 데이터	표기	의미
과거 충격(수익률 잔차) 제곱	$\epsilon_{t-1}^2,\, \epsilon_{t-2}^2, \ldots$	어제·그제 시장이 얼마나 크게 흔들렸는가
과거 조건부 분산	$\sigma_{t-1}^2,\, \sigma_{t-2}^2, \ldots$	어제·그제 모형이 추정한 변동성 수준

ARCH는 첫 번째(과거 충격)만, GARCH는 둘 다 씁니다. “분산 자체도 어제 분산에 의존한다”가 GARCH가 ARCH보다 적은 파라미터로 긴 기억을 표현할 수 있는 이유입니다.

Robert Engle이 1982년 제안한 ARCH(Autoregressive Conditional Heteroskedasticity)는 이 아이디어의 출발점입니다.¹ 수익률 모형을 두 층으로 분리합니다:

\[r_t = \mu + \epsilon_t, \quad \epsilon_t = \sigma_t z_t, \quad z_t \overset{\text{i.i.d.}}{\sim} N(0,1)\]

• $\mu$: 조건부 평균
• $\sigma_t$: 조건부 표준편차 — 시간에 따라 변하는 핵심 항
• $z_t$: 표준 백색잡음 (평균 0, 분산 1, 서로 독립)

왜 이 방식이 동작하는가

섹션 1의 ACF 차트에서 $r_t^2$에 자기상관이 있다는 것을 확인했습니다. 이 관찰이 ARCH의 출발점입니다.

$\epsilon_t = \sigma_t z_t$ 이므로 양변을 제곱하면:

\[\epsilon_t^2 = \sigma_t^2 \cdot z_t^2\]

$z_t$는 평균 0, 분산 1인 백색잡음이므로 $E[z_t^2] = 1$입니다. 따라서 과거 정보를 알고 있을 때 $\epsilon_t^2$의 기댓값은:

\[E[\epsilon_t^2 \mid \text{과거 정보}] = \sigma_t^2 \cdot E[z_t^2] = \sigma_t^2\]

즉, $\epsilon_t^2$의 조건부 기댓값이 곧 $\sigma_t^2$ 입니다. $\sigma_t$ 자체는 직접 관측할 수 없지만, 관측 가능한 $\epsilon_t^2$가 그것의 불편추정량 역할을 합니다.

여기서 불편추정량(unbiased estimator) 이란 “여러 번 반복 추정했을 때 평균적으로 참값을 맞히는 추정량”을 뜻합니다. 수식으로는 추정량 $\hat{\theta}$가 모수 $\theta$에 대해 $E[\hat{\theta}] = \theta$를 만족하면 불편이라고 합니다. 이 경우에는 과거 정보를 알고 있을 때 $E[\epsilon_t^2 \mid \text{과거 정보}] = \sigma_t^2$ 이므로, $\epsilon_t^2$는 조건부 분산 $\sigma_t^2$의 불편추정량으로 볼 수 있습니다. 다만 한 시점의 $\epsilon_t^2$ 값이 항상 $\sigma_t^2$와 정확히 같다는 뜻은 아닙니다.

비슷한 말로 일치추정량(consistent estimator) 이 있는데, 이것은 표본 수가 커질수록 추정량이 참값에 가까워지는 성질을 말합니다. 불편은 “기대값이 맞는가”, 일치는 “데이터가 많아질수록 실제로 수렴하는가”에 관한 개념입니다. 둘은 자주 함께 등장하지만 서로 다른 조건입니다.

섹션 1에서 $r_t^2$의 ACF가 자기상관을 보였다는 것은 “$\epsilon_t^2$을 과거 $\epsilon_{t-1}^2, \epsilon_{t-2}^2, \ldots$로 회귀할 수 있다”는 뜻이고, 위 관계에 의해 이것은 곧 “$\sigma_t^2$를 과거 충격 제곱으로 예측할 수 있다”는 뜻이 됩니다. ARCH는 이 회귀를 정확히 수행합니다.

ARCH(q) 조건부 분산:

\[\sigma_t^2 = \omega + \alpha_1 \epsilon_{t-1}^2 + \alpha_2 \epsilon_{t-2}^2 + \cdots + \alpha_q \epsilon_{t-q}^2\]

$\omega$는 절편(분산의 기저 수준), $\alpha_i$는 $i$일 전 충격이 오늘 분산에 미치는 가중치입니다. $\alpha_i$가 크면 과거 충격이 오늘 분산에 강하게 반영됩니다.

파라미터 제약: $\omega > 0$, $\alpha_i \geq 0$, $\sum \alpha_i < 1$ (분산의 정상성 조건)

한계: 금융 데이터의 변동성은 오래 지속됩니다. 이를 ARCH로만 포착하려면 $q$가 수십 이상이 되어야 합니다.

3. GARCH — 일반화된 조건부 분산

Tim Bollerslev가 1986년 제안한 GARCH(Generalized ARCH)는 과거 분산 항을 추가해 긴 기억을 적은 파라미터로 표현합니다.² ARMA가 AR과 MA를 결합해 고차 AR을 단순화하는 것과 같은 논리입니다.

GARCH(p, q) 조건부 분산:

\[\sigma_t^2 = \omega + \sum_{i=1}^{q} \alpha_i \epsilon_{t-i}^2 + \sum_{j=1}^{p} \beta_j \sigma_{t-j}^2\]

항	이름	역할
$\omega$	장기 분산 기저	분산이 회귀하는 무조건 평균 수준
$\alpha_i \epsilon_{t-i}^2$	ARCH 항	과거 충격(뉴스 효과)에 대한 단기 반응
$\beta_j \sigma_{t-j}^2$	GARCH 항	과거 분산의 지속성

실전에서는 GARCH(1,1)이 대부분의 금융 시계열을 충분히 설명합니다:

\[\sigma_t^2 = \omega + \alpha \epsilon_{t-1}^2 + \beta \sigma_{t-1}^2\]

주요 파라미터 해석:

• $\alpha + \beta$: 변동성 지속성(persistence). 1에 가까울수록 충격이 오래 지속됨
• 무조건 분산(long-run variance): $\bar{\sigma}^2 = \omega / (1 - \alpha - \beta)$
• 정상성 조건: $\alpha + \beta < 1$

4. GARCH 확장 — 레버리지 효과

GARCH(1,1)은 상승과 하락 충격을 대칭으로 취급합니다. 실제 주식시장에서는 하락 충격이 상승 충격보다 변동성을 더 크게 키우는 비대칭성이 관찰됩니다. 주가 하락 → 기업 레버리지 비율 상승 → 주식 위험 증가로 이어지는 경로가 알려져 있어 레버리지 효과(leverage effect)라 부릅니다.

GJR-GARCH

비대칭 효과를 지시변수 하나로 단순하게 표현합니다:

\[\sigma_t^2 = \omega + \alpha \epsilon_{t-1}^2 + \gamma \epsilon_{t-1}^2 \mathbf{1}[\epsilon_{t-1} < 0] + \beta \sigma_{t-1}^2\]

$\gamma > 0$이면 음의 충격($\epsilon_{t-1} < 0$, 즉 하락)에 대해 분산이 $\alpha + \gamma$만큼 반응 — 상승 시의 $\alpha$보다 크게 반응합니다.

EGARCH (Exponential GARCH)

Nelson(1991)이 제안.³ 로그 분산을 모델링해 파라미터 비음수 제약이 자동 충족되고 충격의 부호를 구분합니다:

\[\log \sigma_t^2 = \omega + \sum_{j} \beta_j \log \sigma_{t-j}^2 + \sum_{i} \left[ \alpha_i z_{t-i} + \gamma_i \left(|z_{t-i}| - \sqrt{2/\pi}\right) \right]\]

$\gamma_i < 0$이면 레버리지 효과 포착.

모형	레버리지	파라미터 제약
ARCH(q)	❌	$\alpha_i \geq 0$
GARCH(p,q)	❌	$\alpha, \beta \geq 0$
GJR-GARCH	✅	$\alpha, \beta \geq 0,\; \alpha+\gamma \geq 0$
EGARCH	✅	없음 (log scale)

5. S&P 500 실분석 — GARCH(1,1) vs GJR-GARCH(1,1)

from arch import arch_model

# GARCH(1,1) — t-분포 오차
res_garch = arch_model(returns, vol='GARCH', p=1, q=1, dist='t').fit(disp='off')

# GJR-GARCH(1,1) — t-분포 오차 (o=1이 gamma 항)
res_gjr = arch_model(returns, vol='GARCH', p=1, o=1, q=1, dist='t').fit(disp='off')

GJR-GARCH(1,1) 추정 결과 (2010–2024, 3,772일):

파라미터	값	의미
$\mu$	0.0667	일평균 수익률 0.067%
$\omega$	0.0289	장기 분산 기저
$\alpha$	0.0000	상승 충격의 즉각 반응
$\gamma$	0.2895	레버리지 효과 크기
$\beta$	0.8321	변동성 지속성
$\nu$ (자유도)	5.75	t-분포 두꺼운 꼬리

$\alpha = 0$이고 $\gamma = 0.29$라는 결과가 인상적입니다. 상승 충격은 변동성에 즉각 영향을 주지 않지만, 하락 충격은 다음 날 분산을 29% 포인트 추가로 키웁니다. S&P 500의 비대칭성이 선명합니다.

지속성은 $\alpha + \beta = 0.83$으로, GARCH(1,1)의 0.99보다 훨씬 낮습니다. GJR에서는 충격 효과의 상당 부분이 $\gamma$(비대칭 항)로 분리되기 때문입니다.

장기 무조건 표준편차는 $\bar{\sigma} \approx 1.12\%$/일입니다. 앞서 설명한 “무조건부 분산” — 아무 정보 없이 계산한 장기 평균 분산 — 의 제곱근으로, $\bar{\sigma} = \sqrt{\omega / (1 - \alpha - \gamma/2 - \beta)}$로 계산합니다. 연환산하면 $1.12\% \times \sqrt{252} \approx 17.8\%$로, S&P 500의 장기 평균 연간 변동성과 일치합니다.

상단: S&P 500 수익률과 두 이벤트 마커(2011년 미국 신용등급 강등, 2020년 COVID 충격). 중단: GARCH(1,1)과 GJR-GARCH(1,1)의 조건부 변동성 — COVID 구간에서 변동성이 8% 이상으로 치솟고 이후 빠르게 수렴합니다. 하단: 두 모형의 차이 — 하락 충격이 집중된 시점(음의 수익률이 큰 날)에 GJR이 GARCH보다 일관되게 높은 변동성을 추정합니다. 레버리지 효과가 실재함을 시각적으로 확인할 수 있습니다.

6. 추정과 진단

GARCH의 파라미터는 최대우도추정(MLE)으로 구합니다. 로그우도함수:

\[\ell = -\frac{1}{2} \sum_{t=1}^{T} \left( \log \sigma_t^2 + \frac{\epsilon_t^2}{\sigma_t^2} \right)\]

잔차가 정규분포보다 꼬리가 두꺼운 경우가 많아 t-분포나 GED를 오차 분포로 씁니다. 위 추정에서 $\nu = 5.75$는 자유도 약 6의 t-분포로, 정규분포보다 꼬리가 상당히 두껍습니다.

진단 절차:

적합 후 표준화 잔차 $\hat{z}_t = \hat{\epsilon}_t / \hat{\sigma}_t$를 검토합니다. GARCH가 분산 구조를 충분히 잡았다면 $\hat{z}_t$와 $\hat{z}_t^2$ 모두 백색잡음이어야 합니다.

std_resid = res_gjr.std_resid

상단 좌: 표준화 잔차 $\hat{z}_t$ 시계열. 대체로 ±3 안에 머물지만 2020년 COVID 충격 구간에서 −8 수준의 극단값이 남아 있습니다. t-분포로도 완전히 포착되지 않는 꼬리 위험이 존재한다는 뜻입니다.

상단 우: 표준화 잔차 제곱 $\hat{z}_t^2$. COVID 구간의 극단값이 더 눈에 띕니다.

하단 좌: $\hat{z}_t$ ACF — 모든 lag에서 신뢰구간 안. 평균 구조가 잘 포착됐음을 의미합니다.

하단 우: $\hat{z}_t^2$ ACF — 마찬가지로 신뢰구간 안. 분산 구조(변동성 군집화)도 GJR-GARCH(1,1)이 충분히 흡수했다는 뜻입니다.

두 ACF 모두 백색잡음이면 모형이 평균·분산 구조를 모두 잡은 것으로 판단합니다.

7. 변동성 예측과 VaR

# 향후 10 거래일 예측
forecasts = res_gjr.forecast(horizon=10, reindex=False)
fcast_vol  = np.sqrt(forecasts.variance.values[-1])   # 조건부 표준편차
fcast_mean = forecasts.mean.values[-1]                 # 조건부 평균

# 1일 VaR (Value at Risk, 최대예상손실; 정규 근사)
var95 = -(fcast_mean - 1.645 * fcast_vol)
var99 = -(fcast_mean - 2.326 * fcast_vol)

상단: 2024년 말 기준 최근 80 거래일 조건부 변동성(파란 실선)과 향후 10일 예측(빨간 점선). 변동성이 소폭 상승한 상태에서 장기 평균(≈1.12%)으로 점차 수렴하는 모습입니다. 하단: 예측 기간의 1일 VaR(Value at Risk, 최대예상손실) — VaR 95%는 약 2.1%, VaR 99%는 약 3.0%. “95% 신뢰수준에서 하루 손실이 2.1%를 넘지 않을 것”으로 해석합니다.

VaR는 주어진 신뢰수준에서 특정 기간 동안 발생할 수 있는 손실의 경계값입니다. 즉 “얼마나 자주”가 아니라 “어디까지 손실을 감수해야 하는가”를 숫자로 요약한 리스크 지표입니다. 실무에서는 거래 포지션 한도 설정, 자기자본 대비 위험 관리, 스트레스 구간에서의 손실 규모 점검에 널리 사용됩니다.

VaR 해석 주의사항: 여기서 사용한 정규 근사 VaR는 보수적이지 않을 수 있습니다. t-분포 분위수를 직접 사용하거나 MCMC로 사후 분포 전체를 활용하면 꼬리 위험을 더 정확히 추정할 수 있습니다.

8. GARCH의 위치 — 무엇을 예측하는가

GARCH는 수익률의 방향(평균)을 예측하지 않습니다. 분산(변동성)을 예측합니다.

활용	내용
VaR / CVaR	분포의 하위 꼬리 추정 — 리스크 한도 설정
옵션 가격 결정	내재 변동성의 시계열 모형으로 활용
포트폴리오 최적화	시변 공분산 행렬 추정 (DCC-GARCH 등)
거래 신호	변동성 급등 구간 사전 포착

평균 예측이 목적이라면 수익률 평균 구조를 ARIMA로, 잔차 분산을 GARCH로 동시에 모델링하는 ARIMA-GARCH 결합 모형이 실전에서 더 일반적입니다.

9. 실무 활용, 앙상블, 그리고 다음 단계

ARCH·GARCH는 금융에서 단순히 “변동성 그래프를 그리는 모형”이 아니라, 리스크를 수치화하고 의사결정에 연결하는 기반 모형입니다. 대표적인 활용은 다음과 같습니다.

활용 영역	ARCH·GARCH의 역할
리스크 관리	VaR, CVaR, 증거금, 손실 한도 산정의 입력 변동성 제공
옵션·파생상품	시간가변 변동성 추정으로 옵션 가격과 헤지 비율 보정
포트폴리오 운용	자산별 위험 기여도와 시변 공분산 추정에 활용
알고리즘 트레이딩	변동성 급등/급락 구간을 감지해 포지션 크기 조절

퀀트 관점에서 GARCH의 핵심 역할은 예상수익률(alpha) 자체를 직접 만드는 것보다, 전략이 감수하는 위험을 동적으로 조절하는 데 있습니다. 예를 들어 동일한 신호라도 변동성이 높을 때는 포지션을 줄이고, 낮을 때는 확대하는 식의 volatility targeting이나 risk parity에 바로 연결됩니다. 즉 “무엇을 살까”보다 “얼마나 크게 들고 갈까”를 결정하는 데 더 자주 쓰입니다.

또한 GARCH는 다른 모형과 앙상블하거나 결합해서 쓰는 경우가 많습니다. 예를 들면:

• ARIMA-GARCH: 평균은 ARIMA, 분산은 GARCH로 분리 모델링
• Prophet + GARCH: 추세·계절성은 Prophet, 잔차 변동성은 GARCH로 보강
• 머신러닝 + GARCH: 가격 방향은 XGBoost, LSTM, Transformer 등이 맡고, 리스크 스케일링은 GARCH가 담당

이런 결합은 “방향 예측”과 “위험 예측”을 분리한다는 점에서 실무적으로 자연스럽습니다. 금융 시계열에서는 방향보다 변동성이 더 안정적으로 예측 가능한 경우가 많기 때문입니다.

이 글 다음 단계로 탐색해볼 만한 주제는 아래와 같습니다.

• EGARCH, TGARCH, APARCH: 비대칭성과 꼬리 두꺼움을 더 유연하게 반영
• DCC-GARCH, BEKK: 여러 자산의 시변 공분산과 상관구조 모델링
• Stochastic Volatility: 분산 자체를 잠재확률과정으로 두는 베이지안 계열 접근
• Regime-Switching / Markov-Switching GARCH: 위기장과 정상장을 다른 체제로 분리
• Realized Volatility / HAR-RV: 고빈도 데이터를 활용한 실현변동성 모형
• Extreme Value Theory (EVT): VaR를 넘어 극단 손실 꼬리 자체를 모델링
• GARCH-X / Macro-Finance: 금리, VIX, 거래량 같은 외생변수를 변동성 방정식에 포함

실제로 퀀트 리서치가 깊어질수록, 평균 수익률 예측만으로는 전략을 안정화하기 어렵고 결국 변동성, 상관, 꼬리위험, 체제전환을 함께 다루게 됩니다. GARCH는 그 출발점으로 가장 널리 쓰이는 고전적 도구입니다.

10. 한계

한계	설명
평균 예측 불가	변동성만 예측. 방향은 알 수 없음
단변량	자산 간 변동성 공전이 미처리. 다변량은 DCC-GARCH, BEKK 등 필요
분포 가정 민감성	극단적 꼬리(블랙스완)는 t-분포로도 과소추정될 수 있음
구조 변화 미처리	금융위기처럼 체제 자체가 바뀌는 상황은 Markov-Switching GARCH 등 필요

---

지금까지의 시계열 포스트 흐름을 정리하면: ARIMA는 평균 구조의 자기상관을, ETS는 지수가중 분해를, Prophet은 회귀 분해를 다뤘습니다. GARCH는 이들이 모두 가정했던 등분산 조건을 내려놓고, 분산 자체를 시계열로 모델링합니다. 금융 데이터에서는 방향보다 변동성이 더 예측 가능한 경우가 많기 때문에, GARCH는 리스크 관리의 실질적 표준 도구입니다.

---

참고문헌

• Engle, R. F. (1982). Autoregressive conditional heteroscedasticity with estimates of the variance of United Kingdom inflation. Econometrica, 50(4), 987–1007.
• Bollerslev, T. (1986). Generalized autoregressive conditional heteroskedasticity. Journal of Econometrics, 31(3), 307–327.
• Nelson, D. B. (1991). Conditional heteroskedasticity in asset returns: A new approach. Econometrica, 59(2), 347–370.
• Tsay, R. S. (2010). Analysis of Financial Time Series (3rd ed.). Wiley.

---

AI의 도움을 받아 작성되었으며 최대한 레퍼런스를 밝히려 노력했으나 오류가 있을 수 있으니 정확한 정보를 다시 한번 확인하시기 바랍니다.

1. Engle, R. F. (1982). Autoregressive conditional heteroscedasticity with estimates of the variance of United Kingdom inflation. Econometrica, 50(4), 987–1007. ↩︎

2. Bollerslev, T. (1986). Generalized autoregressive conditional heteroskedasticity. Journal of Econometrics, 31(3), 307–327. ↩︎

3. Nelson, D. B. (1991). Conditional heteroskedasticity in asset returns: A new approach. Econometrica, 59(2), 347–370. ↩︎