Hook Function의 이용

PyTorch Hook

• Hook 기능은 언제 사용할까?
  • Hook은 동적인 입력 및 출력값에 대해 gradients를 업데이트하는데 도움을 주는 함수이다.
  • Hook은 두 공간을 사용하는데, tensors, torch.nn.Modules 이다.
  • 중요한 것은 hook을 apply하기 위해서는 먼저 register 해야만 한다. 자세한 내용은 따로 포스트 하나를 만들어 정리하였다.

참고 문헌 :
[1]https://tutorials.pytorch.kr/beginner/former_torchies/nnft_tutorial.html
[2] https://www.kaggle.com/code/sironghuang/understanding-pytorch-hooks
[3] https://medium.com/analytics-vidhya/pytorch-hooks-5909c7636fb