사용자 bartowski가 Qwen3.6-27B 모델의 KV 양자화가 KLD에 미치는 영향을 테스트했어요. Q8 모델을 기준으로 Q6, Q5 모델과 다양한 양자화 조합을 비교했죠.
결과적으로 Q8과 Q6 모델은 v를 q4_0로 양자화할 때 KLD 값이 급격히 감소하며, Q5 모델은 Q8, Q6 모델보다 v 양자화에 더 관대했어요.
Qwen3.6-27B 모델을 코딩 작업에 사용할 경우, VRAM 용량에 맞춰 (q8_0, q8_0) 조합을 사용하는 것이 가장 효율적이라고 권장해요.