DeepPhysiNet: Bridging Deep Learning and Atmospheric Physics for Accurate and Continuous Weather Modeling

전문적인 forecasting 모델은 아니고 위와 같이 3가지 task를 할 수 있는 모델인 것 같았다. 그래서 다른 두 task에 대해서 이해는 잘 못했지만 ...

그리고 loss function이 궁금해서 찾아봤던 논문이라 다른 부분을 제대로 읽어보지는 않음.+ 결과가 그렇게 이상적이지도 않음

위 피겨가 좀 자세한 모델의 구조인데
우선 인풋이 2개다
하나는 위에서 내려오는 이미지들이고 얘네들은 hyper-network로 들어가서 출력은 가중치값으로 나온다
아래에 physics network의 얕은 부분에서 가중치로 들어가는데
이 network의 인풋은 grid points 에다가 inner points 라는 좌표점들이다
좌표점을 넣으면 해당 위치의 변수값이 나오는 형태이다.
그래서 이 변수값들을 가지고 regression + PDE loss를 통해 최종값이 나오게 된다.

내가 하려는 거랑은 조금 다른 구조이긴 함.
그리고 또 신기했던 건 저렇게 좌표를 인풋으로 넣어주다 보니까 학습 해상도와 해상도가 달라져도 사용할 수 있다는 점이었음.

downscaling task에서는 결과가 좋은 것 같은데
아래에서는 forecasting 결과만 살펴보겠다.

첫 며칠은 안좋다가 뒤로 갈수록 확 안정적으로 변한다.
우리가 이제껏 봤던 ML모델들은 로스가 쌓여서 증가하는데 얘는 그 증가하는 모습이 보이지 않았다.

Loss Function

아까 말했듯이 총 두가지 종류의 loss function 인데,
regression loss + PDE loss 이다.
그래서 regression loss 에는 그냥 smooth L1 loss를 사용하였고,
PDE 에서는 atmosphere, including the motion equation, the continuous equation, the energy equation, the water vapor equation and the ideal gas state equation. 들이 사용되었다.

사용된게 다 어떤식이냐면

예를들어 위같은 식이 있다 하면
이거를

이렇게 변환한다.
즉 왼항과 우항의 mse를 구하고 거기에 $\alpha _u, \alpha_v$ 를 곱해주는데 이건 balance facotrs라고 여기서는 $1e^3$으로 간주된다.
변수 중요도 정도로 생각하면 될듯.

이런 식들을 싹 더해서 나중에 사용하게 된다.
우리도 필요한 식이나 더 더해야 할 식들을 이렇게 사용하면 될듯.