16세 개발자가 모델 예측에 대한 특징 민감도를 측정하는 'Sage Explainer' 툴을 개발하여 공개했어요. 이 툴은 기존 XAI 도구들이 제공하지 않는 예측 변경 가능성을 파악하여 위험 관리에 활용할 수 있도록 설계됐어요.
Sage Explainer는 Random Forest, XGBoost와 같은 블랙박스 모델에서 특징을 미세하게 변화시키고, 그 변화에 따른 예측의 변화를 측정하여 모델 민감도를 추정하는 방식이에요.
PyTorch NN에서는 기존 방식과 성능이 비슷했지만, 미분 불가능한 Random Forest 모델에서는 더 안정적인 결과를 보여주며, pip install sage-explainer로 설치할 수 있어요.