연구진은 개념 기반 설명 가능한 AI 모델의 신뢰성을 평가하는 프레임워크 ConceptSMILE을 공개했어요. ConceptSMILE은 입력 영역을 변형하고 개념 반응 변화를 측정하여 로컬 개념 행동을 추정하는 방식으로 작동해요.
망막 융모 사진을 분석한 결과, MedSAM은 공간적 설명 정확도가 높고 서브로게이트 충실도가 높았으며(R² = 0.8503, Rw² = 0.8465), VLM 경로는 혈관 충실도와 특정 아티팩트 조건 하에서 안정성이 더 강했어요.
ConceptSMILE은 개념 기반 XAI의 신뢰성을 평가하기 위한 독립적인 감사 계층을 제공하며, 모델에 구애받지 않고 적용 가능해요.