본 연구는 딥러닝 모델의 행동과 예측을 분석하는 교란 기반 XAI 방법의 파라미터 선택에 따른 민감성을 다루고 있어요. SAR 이미지 홍수 감지를 예시로 들어 교란 설정에 따른 관련성 추정 변화를 조사했어요. 다양한 교란 선택이 관련성 지도를 변경시켜 모호하고 상반된 설명을 유발할 수 있음을 보여줬어요.
교란 파이프라인의 핵심 파라미터인 교란 영역의 크기 및 모양(패치 기하학)과 교체 방식(교란 유형)을 분석했어요. 다양한 교란 전략 간의 일관성과 모델 추론에 대한 충실도를 평가하여 시각적 검사 외에 관련성 지도를 평가했어요.
연구 결과, 교란 선택은 관련성 지도를 변경시켜 모호하고 상반된 설명을 유발할 수 있으며, 설명 해석 시 방법론적 설정을 신중하게 검토하고 평가해야 함을 강조했어요. 모델 예측과 설명을 둘 다 강력하게 이해하기 위해 교란 선택을 필수적인 부분으로 간주해야 해요.
교란 기반 XAI에서 방법론적 설정이 중요하다는 점을 강조하며, 설명 해석 시 교란 선택을 신중하게 검토하고 평가해야 함을 강조했어요. 이를 통해 모델 예측에 대한 강력한 이해를 보장할 수 있어요.