연구진은 레이블 없이 LLM의 추론 정확도를 높이는 새로운 방법인 CANON(Consensus-ANchored self-distillatiON)을 발표했어요.
CANON은 여러 솔루션을 샘플링하여 다수결 답변을 추출하고, 이를 기반으로 모델을 지도하는 방식으로 토큰 단위의 밀집형 감독 신호를 활용해요.
수학 및 과학 추론 벤치마크에서 CANON은 Pass@1을 최대 12포인트 향상시켰으며, 레이블 없는 강화 학습보다 효율적이고 골드 솔루션 기반 지도 학습에 근접하는 성능을 보여줬어요.