연구진은 구조적 가지치기를 통해 LLM을 압축하는 기술이 주로 객관식 인식 작업에만 검증되어 실제 생성 작업에서 성능이 저하되는 문제를 확인했어요.
ShortOPD는 압축 모델의 자체적인 on-policy 상태를 활용하여 토큰 단위의 밀집 지도 학습을 통해 모델을 복구하는 기술로, 교사 모델을 고정하여 사용해요.
ShortOPD는 교사 모델이 확인한 반복적인 접미사를 감지하고, 생존하는 접두사를 효과적인 길이로 간주하여 향후 rollout 예산을 할당하는 short-to-long OPD 스케줄을 사용해요.