연구진은 LLM 추론 과정에서 발생하는 환각 현상에 대한 미세 분석을 수행했어요. 특히 문맥 간섭으로 인해 사실 오류가 발생하는 '문맥 민감한 사실 환각'이 심각한 문제임을 발견했어요. 이를 해결하기 위해 단계별 일관성 기반 그룹 상대 정책 최적화(SSC-GRPO)를 제안해 LLM의 추론 정확도를 높였어요.
SSC-GRPO는 여러 번의 추론 과정을 통해 각 단계의 일관성 점수를 계산하여 단계별 보상을 부여하는 방식이에요. 기존 방법 대비 수학적 추론 벤치마크와 환각 방지 리더보드에서 최고 성능을 달성했어요.
이번 연구는 LLM 추론 과정의 환각 현상을 감지하고 완화하는 데 새로운 시각을 제시하며, LLM의 신뢰도를 높이는 데 기여할 것으로 기대돼요.