연구팀은 LLM 자체 증류(SD)를 체계적으로 연구하는 통합 프레임워크 'UniSD'를 제안했습니다. UniSD는 감독 신뢰성, 표현 정렬, 학습 안정성을 개선하는 다양한 메커니즘을 통합하여 6개의 벤치마크에서 성능을 향상시켰습니다. UniSD는 기준 모델 대비 5.4점, 최고 성능의 기존 방법 대비 2.8점 성능 향상을 달성하며 자체 증류의 실용성과 제어 가능성을 입증했습니다.