4월 1주차 논문 정리

CoST: Contrastive learning of Disentangled Seasonal-Trend Representations for Time Series Forecasting

• 문제: 현재 end-to-end 딥러닝 기반 시계열 추이추정은 feature representation이 entangle 되어 있을 때 오버피팅 $\uparrow$
• 시계열 = Trend + Seasonal + Residual(Error)
• 위에 기반하여 시계열 데이터를 Trend와 Seasonal 모듈로 완전히 분리하면 어느 한 모듈의 variance에도 robust한 추이추정을 할 수 있음
• 목적: Disentangle 된 Trend, Seasonal representataion을 학습!! (Representation learning) $\rightarrow$ 각 Trend, Seasonal representation에 서로 다른 error을 더해 augmentation 한 후(positive pair), contrastive learning 수행
  (관측치 X는 예측할 수 없는 noise E를 포함하기 때문에 error-free latent variable X*를 학습하는 것을 목표로 함)
• Trend: Mixture of AR(Autoregressive) 모델 $\rightarrow$ 다양한 window size
  Time Domain Contrastive Loss
  
• Seasonal: FT $\rightarrow$ Learnable Fourier Layer $\rightarrow$ IFT
  Frequency Domain Contrastive Loss
  
• 사용된 augmentation: scale, shift, jitter