연구진은 Mixture-of-Experts (MoE) 모델의 추론 효율성을 높이는 새로운 추론적 디코딩 프레임워크인 EcoSpec을 제안했어요.
EcoSpec은 기존 방식의 문제점인 '전문가 산란' 현상을 해결하기 위해, draft 토큰 선택 시 예상되는 전문가 활성화 비용을 고려해요.
DeepSeek-V3.1, Qwen3-235B-A22B, GPT-OSS-120B 모델에서 EcoSpec을 적용한 결과, 전문가 활성화 규모를 줄이고 최대 1.62배 빠른 디코딩 속도를 달성했어요.