(Python) CNN feature importance (2)

python에서 제공되는 라이브러리들 중 feature importance를 추출할 수 있는 몇 가지 모듈들을 활용할 수 있는 방법들을 추가로 아래와 같이 정리했다. (가장 하단 reference 참고) LIME: (Local Interpretable Model-agnostic Explanations) XAI의 분류체계 중 어떠한 모델에도 적용할 수 있는 Model-agnostic과 Model-specific 두가지로 분류할 수 있다. LIME의 경우, 신경망, 랜덤 포레스트, SVM 등 어떤 머신 러닝 예측 모델에도 적용할 수 있다. locally approximation을 수행하여 설명을 시도한다. 이름에서 알 수 있듯 전체 모델이 아닌 개별 prediction의 근방에서만 해석을 시도한다는 점과 어떠한 모델이든 적용이 가능하다는 특징이 있다.(아래 코드에서 그 특징을 알 수 있다.) explainer = lime_tabular.LimeTabularExplainer(x_train...

원문링크 : (Python) CNN feature importance (2)