컨셉 병목 모델(CBM)은 인간이 이해할 수 있는 심볼을 통해 예측을 내리므로 설명 가능한 인공지능 도구로 활용돼요. 하지만 높은 작업 정확도가 심볼이 충실하게 검출된다는 것을 보장하지 않으며, 공동 훈련된 CBM은 작업별 단축 경로를 인코딩하여 설명을 신뢰할 수 없게 만들 수 있어요.
연구진은 독립적으로 훈련된 컨셉 검출기와 분류 헤드를 공유하는 CBM의 성능 저하, 컨셉 레벨 지표, 심볼별 불확실성 추정치를 활용하여 오작동하기 쉬운 컨셉을 식별했어요. 이를 통해 컨셉 검출기와 분류 헤드를 교환했을 때 성능 저하를 측정하여 신뢰도를 평가했어요.
신뢰도에 대한 인식을 갖춘 훈련 전략을 제안하여, 공유된 컨셉 검출기를 여러 분류 헤드로 최적화하고 전역적 또는 인스턴스별로 신뢰할 수 없는 심볼에 의존하는 것을 방지하는 페널티를 적용했어요. 결과적으로 신뢰도가 낮은 환경에서 교환 정확도를 약 두 배로 향상시켰어요.