연구진이 LLM의 환각 현상, 특히 장문 생성 시 누적되는 오류 문제를 해결하기 위해 SHARS(Segment-wise HAllucination Rejection Sampling) 프레임워크를 제안했어요.
SHARS는 임의의 환각 감지기를 활용해 환각된 부분을 거부하고 재샘플링하는 방식으로 작동하며, 외부 지식 없이 자체적으로 오류를 수정할 수 있어요.
표준 환각 벤치마크 평가 결과, SHARS는 환각을 크게 줄이면서도 정보량은 유지하거나 오히려 개선하는 효과를 보였어요.
연구 결과 및 코드는 GitHub에서 확인할 수 있어요.
Semantic uncertainty를 환각 감지기로 활용하고, 장문 텍스트에 적합하도록 여러 가지 수정 사항을 적용했어요.