연구진은 환각 감지를 위한 새로운 프레임워크 '환각 자가 학습(HSP)'을 제안했어요. HSP는 감지기와 생성기를 교차 훈련하며, 감지기는 환각 여부를 판단하고 생성기는 감지하기 어려운 환각 응답을 생성해요.
HSP는 인간 레이블 데이터로 감지기를 먼저 튜닝한 후, 강화 학습을 통해 생성기를 훈련하고, 진화된 생성기는 감지기를 더욱 최적화하는 데 사용돼요.
RAGTruth 벤치마크와 두 모델 패밀리 실험 결과, HSP는 외부 감독 없이 소형 LLM의 성능을 향상시켜 고급 LLM에 버금가는 결과를 보여줬어요.