연구진은 AI 시스템의 오류와 인간의 판단 오류를 고려하여 AI에 대한 신뢰를 결정하는 인간의 의사 결정을 연구했어요.
23명의 전문가와 16개의 AI 에이전트가 참여한 질문 답변 게임에서 위임 및 채택 결정 387건과 1440건을 분석한 결과, AI가 올바른 제안을 놓치는 경우와 잘못된 정보를 줄 때 과도하게 의존하는 등 비효율적인 협업 의사 결정이 관찰됐어요.
연구진은 AI의 신뢰도를 높이기 위해 교정된 신뢰도, 증거 기반 설명, 그리고 사용자가 신뢰를 조정할 수 있는 메커니즘을 제안했어요.