연구진은 입력 특징을 제거하여 모델 출력 변화를 측정하는 오클루전 기반 기여도 분석 방법의 신뢰성 문제를 지적했어요.
XtrAIn은 입력 공간 대신 파라미터 공간에서 오클루전 작업을 수행하는 학습 기반 기여도 분석 방법으로, 입력 값을 임의의 기준선으로 대체하는 대신 모델의 학습 경로를 따라 특징과 관련된 파라미터 업데이트가 출력 로짓에 미치는 영향을 측정해요.
XtrAIn은 계산 비용을 줄이는 경량 근사 Xstep과 목표 클래스에 맞춰 업데이트를 강조하는 XtrAIn+ 변형을 포함하며, 실험 결과 기존 기여도 분석 기준선보다 더 명확하고 해석 가능한 기여도 패턴을 생성하는 것으로 나타났어요.