AI 팀에서 LLM 판별관의 활용이 증가하면서, 복합적인 추론과 분석이 필요한 의사 결정을 자동화하는 데 도움이 되고 있습니다. LLM의 추론 능력에 신뢰도 점수를 결합하면 능동 학습, 안전 분류기 등 새로운 활용 방안이 가능합니다.
LLM의 불확실성 정량화는 활발한 연구 주제이며, 모델 가중치 접근이 필요한 화이트박스 방법과 토큰 자체를 사용하는 블랙박스 방법으로 나뉩니다. 블랙박스 방법은 가중치 접근 없이 모든 모델에 적용 가능합니다.
연구 결과, 언어적 불확실성 방법은 모델이 80~100%의 높은 신뢰도를 나타내는 경향이 있으며, 토큰 기반 방법은 추론 모델과 호환되지 않는다는 한계가 있습니다. Self-consistency 방법은 데이터 자체의 노이즈를 측정하며, Prompt-perturbation 방법은 프롬프트 변경에 민감하게 반응합니다.