Pulse · AI 뉴스

XAI에서 모델 한계 공개가 사용자의 신뢰 교정에 미치는 영향 연구

XAI · 2026-05-18

연구진은 설명 가능한 AI(XAI)의 안전한 배포를 위해 사용자 신뢰를 모델 능력과 일치시키는 신뢰 교정의 중요성을 강조했어요.

피부 병변 분류 XAI에 대한 실험 결과, 모델 한계 공개가 사례별 신뢰도 판단의 교정에 긍정적인 영향을 미치는 것으로 나타났어요.

실험 참여자들은 신뢰, 신뢰성, 정확도 추정 간의 차이를 느끼기 어려워했으며, 실제 경험하는 데이터 패키지가 실험 조작보다 더 큰 영향을 미쳤어요.

##XAI##신뢰교정##모델한계##연구
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기