연구진이 Evidential Deep Learning(EDL)과 Full-Gradient Class Activation Mapping(FullGrad)을 결합한 Uncertainty Activation Map(UAM) 프레임워크를 제안했어요.
UAM은 모델의 불확실성 원인을 'vacuity'(증거 부족)와 'dissonance'(상충하는 증거)로 구분하여 시각화해요.
UAM은 모델이 지식 부족 영역과 모호한 증거 영역을 식별하는 데 도움을 주며, 다양한 벤치마크 데이터셋에서 효과를 입증했어요.
이 프레임워크는 불확실성 정량화와 설명 가능성 간의 중요한 격차를 해소하여 복잡한 시각 인식 작업에서 모델의 신뢰성을 평가하는 데 유용한 시각적 피드백을 제공해요.