Pulse · AI 뉴스

온정책 확산 증류에서 분류기 자유 가이드 재고

arXiv cs.LG · 2026-07-28

연구진은 온정책 증류(OPD) 과정에서 분류기 자유 가이드(CFG)가 어떻게 작동하는지 분석했어요. 기존 방법은 가이드된 속도를 직접 일치시키지만, 이는 오류를 상쇄시켜 제대로 작동하지 않는다는 것을 발견했어요.

모델의 CFG 스키마가 교사 모델의 부정적 분기에 유리한 정보를 담고 있으면, 분기 오류 역학이 발생해 긍정적 분기 오류를 줄이면서 부정적 분기 오류를 증가시킬 수 있어요.

연구진은 긍정적 방향 일치(PDM)라는 새로운 방법으로 이 문제를 해결하고, 영상 제어 작업에서 더 강력하고 효과적인 지식 전달을 가능하게 했어요.

##연구##온정책증류##분류기자유가이드##확산모델
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기