[MiniProject] Node 08. ARIMA, ARCH

Code

🔗 github.com/hayannn/AIFFEL_MAIN_QUEST/MiniProject4

프로젝트 목표

---

Objective 1

• ARIMA를 통한 시계열 예측 수행

Objective 2

• ARCH를 통한 S&P500의 변동성 모델링 수행

순서 정리

---

• arch & pmdarima 설치
• ARIMA
  • 사용할 라이브러리 import
  • 데이터 불러오기 & 형태 확인
  • 분산을 일정하게 만들기 - log transformation
  • 차분 후 분석
  • ARIMA 적용
  • Auto ARIMA 적용
  • 결과 분석
  • 시각화
• ARCH
  • 데이터 및 라이브러리 불러오기
  • 데이터 가공 및 시각화
  • ARCH 적합
  • 결과 분석
  • 시각화
• 회고

arch & pmdarima 설치

---

필요한 라이브러리 설치

• arch 설치

!pip install arch==6.3.0

• pmdarima 설치

!pip install pmdarima

ARIMA

사용할 라이브러리 import

• statsmodels.graphics.tsaplots의 plot_acf, plot_pacf
• statsmodels.tsa.arima_model의 ARIMA
• pmdarima : Auto ARIMA 모델

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from statsmodels.graphics.tsaplots import plot_acf, plot_pacf
from statsmodels.tsa.arima_model import ARIMA
import pmdarima as pm

데이터 불러오기 & 형태 확인

• 데이터셋 : AirPassengers

ap = pd.read_csv('/content/drive/MyDrive/시계열/AirPassengers.csv')
ap

• Month 컬럼 삭제

ap.drop('Month', axis = 1, inplace = True)
ap

• 데이터 형태 확인
  • 분산 일정하지 않음
  • 상승 추세
  • 비정상 데이터로 분류해야 함

plt.plot(ap)
plt.show()

분산을 일정하게 만들기 - log transformation

• 로그 변환

ap_transformed = np.log(ap)
ap_transformed

• ACF plot, PACF plot으로 시각화해 확인
  • 길이가 길수록 유의미함을 의미
  • ACF plot : 점차 감소하는 형태
    
  • PACF plot : lag 2까지는 유의미함을 발견할 수 있음
    

데이터 자체가 아직 증가 추세를 가지고 있음

• ACF, PACF 모두 비슷한 형태를 띄고 있다고 봐도 무방
• 더 적합하려면 차분 진행이 필요함

차분 후 분석

• 차분으로 추세 제거하기

ap_diff = ap_transformed.diff()
ap_diff = ap_diff.dropna() # NaN 값 제거

• 시각화
  • lag 값을 더 명확히 보기 위해 1 단위로 x축 조정
  • lag 0은 자기 자신이니 제외

• ACF plot
  • lag 1, lag 12 정도가 유의미하다고 판단해볼 수 있음

plot_acf(ap_diff)
plt.xticks(range(0, len(ap_diff), 1))
plt.plot();

• PACF plot
  • lag 1, lag 8~12 정도가 유의미

plot_pacf(ap_diff)
plt.xticks(range(0, len(ap_diff), 1))
plt.plot();

그래프가 예시 결과가 조금 다르게 출력됨

• statsmodels의 버전 차이로 Default 값이 달라져 발생한 문제
  • LMS : 0.13.0
  • 코랩 : 0.14.4
• 해결 : 0.13.0에서 사용하는 Default를 명시해서 다시 그래프 출력
  • Release 0.13.0의 "Fixed parameters in ARIMA estimators" 부분 참고

plot_pacf(ap_diff, method='yw', alpha=0.05)
plt.xticks(range(0, len(ap_diff), 1))
plt.plot();

이 시점에서 알 수 있는 것은?

• ACF, PACF 모두 12에서 가장 유의미한 상관 관계가 보임
• 계절성 성분으로 추측
• Auto ARIMA 적용 시, 이러한 계절성 성분을 고려해야하나, 이 값 자체를 유의미하게 보지 않는다면 그 자체로 유의미하지 않게 될수도 있음을 인지하고 있어야 함

❄️ 의문점

• ACF와 PACF의 유의미하다는 기준이 모호한 문제
  • "음수 부분은 유의미하지 않은 변수인건지?"
    • 강의에서는 ACF의 음수 부분을 배제했기 때문에 궁금해짐
    • lag 4, 8도 유의미하다고 볼 수 있는게 아닌가?
  • PACF의 경우, 음수값을 포함해 유의미한 것으로 판별해서 더 혼란 가중
• 현재로서의 가정 : D값을 12로 지정해서 진행하기 위해 즉, ACF와 PACF가 함께 최대로 유의미한 수치를 기준으로 잡기 위해 임의 지정한 것으로 판단

ARIMA 적용

• 로그 변환한 ap_transformed 사용
• test 데이터 분리(20% 정도 자르고, 80%만 적합)

train_size = int(len(ap_transformed)*0.8)

ap_transformed_train = ap_transformed[:train_size]
ap_transformed_test = ap_transformed[train_size:]

Auto ARIMA 사용하여 훈련

• seasonal : False라면 -> non-seasonal model로 제한
• suppress_warnings : 에러 문구 ignore
• trace : True일 경우 오류가 발생하면 -> 그 일부 내용 출력
• max_D : seasonal 최대값 설정 가능

model = pm.AutoARIMA(seasonal = True, suppress_warnings = True, trace = True, max_D = 12, D = 12)
res = model.fit(ap_transformed_train)

적합 파라미터 : ARIMA(5,1,2)

결과 분석

• (5,1,2)의 AIC : -219.339
  • 다른 경우보다, 가장 낮게 측정됨
• Time : 0.68s
  • 시간이 지나치게 많이 소요 or 모델 복잡성이 높아지면 ➡️ 계산 비효율성 높아짐
  • 과적합 방지를 위한 적당한 값 선정이 필요함

• confidence interval까지 도출

preds, conf_int = res.predict(n_periods=ap_transformed_test.shape[0], return_conf_int=True)

• 결과
  • preds : 모델 예측 값
    • 29 : 예측값 개수
    • pandas의 Series 객체
  • conf_int : 예측값에 대한 신뢰 구간

print(preds.shape)
print(type(preds))
print('--'*40)
print(preds.shape[0])
print(type(preds.shape[0]))
print('--'*40)
print(preds)
print('--'*40)
print(conf_int)

시각화

• 파란색 : 기존 train 데이터
• 점 부분 : 원래 가지고 있던 y값
• 점추정, 구간 추정 모두 출력
• 주황색 : ARIMA 1, 2, 3이 예측한 부분 ➡️ 추세 반영을 잘하고 있음!

x_axis = np.arange(ap_transformed_train.shape[0] + ap_transformed_test.shape[0])

plt.plot(x_axis[:ap_transformed_train.shape[0]], ap_transformed_train, alpha=0.75)
plt.plot(x_axis[ap_transformed_train.shape[0]:], preds, alpha=0.75)
plt.scatter(x_axis[ap_transformed_train.shape[0]:], ap_transformed_test, alpha=0.4, marker='o')
plt.fill_between(x_axis[-preds.shape[0]:], conf_int[:, 0], conf_int[:, 1], color='b', alpha=0.1)
plt.title("Log Transformed Air Passengers Forecast")
plt.show()

ARCH

데이터 및 라이브러리 불러오기

• datetime : 날짜 및 시간 라이브러리
• arch.data.sp500 : S&P 500 데이터셋을 arch에서 불러올 수 있음

import datetime as dt
import arch.data.sp500

데이터 가공 및 시각화

• 시작 날짜 : 2002-01-01
• 끝 날짜 : 2022-01-01
• 기준 : 종가(Adj Close)

st = dt.datetime(2002, 1, 1)
en = dt.datetime(2022, 1, 1)
data = arch.data.sp500.load()

market = data["Adj Close"]
returns = 100 * market.pct_change().dropna()

• Return(수익률)을 그래프로 시각화

ax = returns.plot()
xlim = ax.set_xlim(returns.index.min(), returns.index.max())
plt.show()

• 조건부 이분산성 발견
  • 독립변수 오차항이 상관관계가 있는 경우
  • 2008년 즈음인 것으로 보아, 금융 위기 당시로 추측
  • 2007~2008년 : 미국에서의 부동산 버블 붕괴로 세계 금융 위기 초래되었음

ARCH 적합

• Return을 ARCH 모델에 적합
• summary 확인(p-value, AIC, BIC 중심으로 분석)

from arch import arch_model

am = arch_model(returns)
res = am.fit(update_freq=5)

print(res.summary())

결과 분석

• GARCH의 자동 적용

p-value

• 9.302e-07 ➡️ 0.0000009302 가량의 수치, 아주 작은 수치에 해당하기 때문에 통계적으로 유의미

AIC

• 13881.4 ➡️ 값이 작을수록 좋은 모델 의미, 수치 자체만으로 봤을 경우에는 다소 높음

BIC

• 13907.5 ➡️ 값이 작을수록 좋은 모델 의미, 수치 자체만으로 봤을 경우에는 다소 높음

Volatility Model 해석

• omega

  • p-value : 1.854e-04(0.0001854)
  • 통계적으로 유의미

• alpha[1]

  • arch를 통해 알아낼 수 있는 파라미터 값
  • p-value : 4.105e-15(0.000000000000004105)
  • 통계적으로 유의미

• beta[1]

  • arch를 제외한 garch에서만 나타나는 파라미터 값
  • p-value: 0.000
  • 통계적으로 아주 유의미

• 즉, alpha[1], Beta[1]가 GARCH(1,1)을 의미

• p-value를 통해 신뢰도 95%에서 이들이 유의미하다고 결론 내릴 수 있음

시각화

• 모델 적합 후 남은 나머지 제시
• 예측한 조건부 분산 값 확인 가능

res.plot()

• Standardized Residuals
  • 뚜렷한 조건부 이분산성을 보여주는 부분이 사라져 ➡️ 모델 적합이 잘 되었음을 알 수 있음

회고

• 전체적으로 어려운 수준은 아니었으나, ACF 및 PACF의 유의미하다는 기준 자체가 애매하게 느껴져서 판단에 어려움이 있었음
  • 강의에서의 내용이 다소 일관적이지 못했다는 생각
• 전반적으로 결과를 해석하는 방법에 대해서 아직 미숙하다는 생각이 들었음
  • 통계적인 이유를 찾아야하는 모델의 특성상, 통계적인 지식이 아주 많이 필요하고 그것을 기준으로 모델 적합성을 따져보는 연습이 아주 많이 필요하다고 느낌