Pulse · AI 뉴스

온라인 정책 자기 증류 방식 재검토: 사고 모델의 경우

Qwen · 2026-07-07

연구진은 사고 모델에 적용한 자기 증류 방식이 오히려 성능을 저하시킨다는 사실을 발견했어요.

Qwen3와 OLMo 모델을 AIME24, AIME25, HMMT25 데이터셋에서 평가한 결과, 최대 17%의 정확도 하락이 관찰됐어요.

사고 모델은 다양한 추론 경로를 탐색하는 과정에서 유연성이 제한되는데, 이는 온라인 정책 증류 방식에서도 나타났어요.

##사고모델##자기증류##Qwen3##OLMo
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기