연구진은 수정된 흐름(RF)의 최적 자기 증류(SD)를 연구했어요. 비최적의 교사 속도장을 기반으로 학생 모델을 훈련시켜 교사 모델을 개선할 수 있는지 확인했어요.
선형 RF에서 교사 위험이 비정상적일 때, 통합 속도 위험 측면에서 엄격한 개선이 가능하다는 것을 증명하고 최적 혼합 계수를 도출했어요.
최적 계수는 교사 위험의 정도에 따라 양수 또는 음수로 결정되며, GCV 및 검증 튜닝 절차를 통해 혼합 가중치를 반복적으로 조정하는 것을 방지할 수 있어요.