ShapForDeepModel

학습된 deeplearning 모델에 feature 를 입력하면 output 을 얻어낼 수 있다.그런데 deeplearning 모델 자체만으로는, 무엇때문에, 구체적으로 어떤 feature 때문에 그런 output 이 나왔는지, 그 이유를 알기 힘들다.이것에 대한 해답

아마도 shap 이라는 말의 시초가 되었을 shapely value 가 무엇인지, 어떻게 구하는지, 구한 후엔 해석은 어떻게 하는지 알아보자.

개발했던 deep learning 추천 시스템에 shap(https://github.com/slundberg/shap) 을 적용해보았다.이때 발견했던 해당 레포의 문제점들과, 삽질들, 해결과정을 기록한다.아래 내용은 2021년 9월 29일에 적용해보았던 내용으