Spectral Labs가 Qwen3.5 0.8B 모델의 새로운 양자화 방식인 SpectralQuant를 적용한 Q4_K_M 모델을 공개했어요.
SpectralQuant는 모델의 민감한 부분의 양자화 오차를 줄여 표준 Q4_K_M 모델의 성능을 BF16에 가깝게 끌어올리는 기술이에요.
heldout120 평가에서 SpectralQuant는 기존 Q4_K_M 모델 대비 96.5%의 격차를 회복하며, Unsloth의 다양한 Q4_K_M 모델보다도 우수한 성능을 보여줬어요.