Pulse · AI 뉴스

전문가 감소, 빠른 디코딩: Mixture-of-Experts 모델을 위한 비용 인지 추론적 디코딩

DeepSeek · 2026-07-14

연구진은 Mixture-of-Experts (MoE) 모델의 추론 효율성을 높이는 새로운 추론적 디코딩 프레임워크인 EcoSpec을 제안했어요.

EcoSpec은 기존 방식의 문제점인 '전문가 산란' 현상을 해결하기 위해, draft 토큰 선택 시 예상되는 전문가 활성화 비용을 고려해요.

DeepSeek-V3.1, Qwen3-235B-A22B, GPT-OSS-120B 모델에서 EcoSpec을 적용한 결과, 전문가 활성화 규모를 줄이고 최대 1.62배 빠른 디코딩 속도를 달성했어요.

##MoE##추론##디코딩##EcoSpec##DeepSeek
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기