Pulse · AI 뉴스

MTP 지원 모델 llama.cpp 준비 상황: DeepSeek, Qwen, GLM 등

llama.cpp · 2026-05-05

MTP(Mixture of Total Preference)가 llama.cpp에 적용될 예정입니다.

DeepSeekv3, Qwen3.5, GLM4.5+ 등 다양한 모델이 MTP를 지원합니다.

MTP 가중치가 준비될 때까지는 HF 가중치를 다운로드하여 gguf 형식으로 변환해야 합니다.

##모델##llama.cpp##MTP##DeepSeek##Qwen

매일 핵심 AI 소식을 한국어로, 빠르게