모델 민감도를 분석하기 위한 새로운 도구인 sage-explainer를 소개합니다.
이 글은 사용자가 직접 만든 모델 민감도 분석 도구인 sage-explainer에 대한 설명입니다. 이 도구는 예측의 민감도를 각 특성에 대해 계산하여 효과적인 위험 관리를 제공합니다. 그 방법은 perturbation 기반 접근 방식을 사용하며, 특히 랜덤 포레스트 모델과 같은 비연속적이고 블랙 박스 모델에서 유용합니다. 실험 결과, 기존의 방법보다 더 안정적인 민감도 결과를 제공한다고 합니다.
Introducing sage-explainer, a new tool for analyzing model sensitivity.
This article describes the user's newly built model sensitivity analysis tool called sage-explainer. The tool calculates the sensitivity of predictions to each feature, facilitating effective risk management. It employs a perturbation-based approach, making it particularly useful for non-continuous and black box models such as random forests. Experimental results suggest that it provides more stable sensitivity outcomes compared to traditional methods.