연구진은 LLM 불확실성 추정(UQ) 분야가 근본적인 오류를 범하고 있다고 주장하며, 현재 UQ 방법은 모델 생성의 내부 일관성을 측정하는 비지도 클러스터링 알고리즘에 불과하다고 지적했어요.
현재 방법은 사실과 무관하며, 모델이 높은 확신을 가지고 안정적이지만 틀린 답변을 하는 '자신감 있는 환각'을 감지하지 못해 안전에 대한 오해를 불러일으킬 수 있어요.
연구진은 하이퍼파라미터 민감성 위기, 내부 평가 순환, 객관적 진실 부재 등 세 가지 주요 문제점을 제시하며, 객관적 진실에 기반한 새로운 UQ 패러다임 전환을 촉구했어요.