연구진은 LLM의 환각 감지를 위해 스펙트럼 기반 신호인 D-Score를 새롭게 제안했어요. D-Score는 모델의 내부 상태를 반영하는 은닉 활성화 행렬의 스펙트럼 통계량으로, 환각 텍스트는 D-Score가 더 높게 나타나요.
FAVA-Annotation과 RAGTruth 데이터셋에서 D-Score를 활용한 환각 감지 실험 결과, 기존 방식보다 우수한 성능을 보여줬어요. 외부 검증이나 복수 생성 과정 없이도 환각 여부를 판단할 수 있어요.
D-Score는 모델, 레이어, 허용 오차 파라미터를 고정했을 때 은닉 활성화 행렬의 특이 방향을 계산하는 방식으로 작동하며, 환각 텍스트는 여러 특이 방향으로 분산되는 경향이 있어요.