LLM이 불완전한 맥락에서 답변을 생성할 때, 이는 '암묵적 보충'으로 볼 수 있으며, 불확실성은 손실된 정보량에 따라 증가해야 한다는 주장이 제기됐어요.
SQuAD 데이터셋을 활용한 실험에서, LLM의 답변 신뢰도는 맥락 손실량 증가에 따라 변하지 않았지만, 엔트로피는 맥락 제거에 따라 증가하며 정확도 변동을 더 잘 설명했어요.
연구진은 엔트로피가 불확실성 측정에 더 민감하게 반응한다는 것을 보여주는 새로운 진단 도구 $ρ_R(α)$ 를 소개했습니다.