Pulse · AI 뉴스

llama.cpp: Hy3 모델 지원 추가 (MTP 추론 방식)

llama.cpp · 2026-07-14

llama.cpp 프로젝트가 Tencent의 Hy3 (HYV3ForCausalLM) 모델 지원을 추가했어요. 이 모델은 2990억 파라미터 MoE 구조와 80개 레이어, 그리고 MTP 레이어를 포함하고 있어요. MTP 추론 방식을 활용한 speculative decoding 기능도 지원합니다.

##llama.cpp##Hy3##MTP##모델지원##추론
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기