Pulse · AI 뉴스

ORCE: LLM 답변의 신뢰도 정렬 방식 연구

arXiv cs.CL · 2026-05-13

LLM이 부정확한 답변에도 높은 확신을 보이는 문제를 해결하기 위해, 본 연구는 답변 생성과 신뢰도 추정 과정을 분리하는 새로운 프레임워크인 ORCE를 제안합니다.

ORCE는 질문-답변 쌍에 조건부로 신뢰도를 추정하여, 답변 정확도를 해치지 않으면서 신뢰도 최적화를 가능하게 합니다.

실험 결과, ORCE는 기존 방식 대비 교정 및 오류 예측 성능을 향상시키며 답변 정확도를 유지하는 것으로 나타났습니다.

##LLM##신뢰도##ORCE##연구
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기