AtomicBot-ai 팀이 Qwen 모델에 Multi-Token Prediction (MTP)을 적용하여 LLaMA.cpp + TurboQuant 조합으로 성능을 40% 향상시켰습니다.
MacBook Pro M5 Max 64GB RAM 환경에서 테스트 결과, 기존 방식 대비 토큰 생성 속도가 34 tokens/s로 증가했습니다.
Qwen 3.6 27B 및 35B 모델을 MTP와 함께 TurboQuant로 양자화하여 GGUF 형식으로 Hugging Face에 공개했습니다.