복잡한 머신러닝 모델 설명에 비기호 방법이 주로 사용되어 왔지만, 엄격함이 부족하여 의사 결정을 오도할 수 있습니다. 특히 고위험 분야에서 ML 모델의 엄격함 부족은 심각한 문제이며, 쉐이피 값(Shapley values)과 SHAP 도구의 보편적인 사용이 그 예시입니다. 본 논문은 비엄격적인 비기호 접근 방식의 대안으로 엄격한 기호적 XAI 방법 사용을 위한 노력들을 개괄하며, 상대적인 특징 중요도 할당에 초점을 맞춥니다.