연구진이 온정책 증류의 효과를 분석했어요. 토큰별로 어떤 조건에서 도움이 되고 해가 되는지, 어떤 교사 모델을 사용해야 하는지 등을 조사했어요. 기존 방식은 비용이 많이 들고, 토큰 수준의 역학 관계를 파악하기 어려웠어요. 새로운 접근법은 훈련 없이도 토큰 수준의 효과를 분석할 수 있도록 설계됐어요. 이를 통해 온정책 증류의 활용 전략을 개선하고, 모델 성능을 최적화하는 데 기여할 수 있을 것으로 기대돼요.