r/LocalLLaMA 커뮤니티에서 Gemma 4 26B-A4B GGUF 모델의 KL Divergence 벤치마크 결과를 공유하며, 다양한 제공업체 간의 최적화된 양자화 방법을 제시했어요.
벤치마크 결과, Unsloth GGUF가 대부분의 크기에서 뛰어난 성능을 보여주며, 양자화 모델의 정확도 유지에 중요한 KLD 지표에서 우수한 점수를 기록했어요.
새로운 UD-IQ4_NL_XL 양자화 방식이 16GB VRAM 환경에서도 사용 가능하도록 출시되었으며, 기존 UD-IQ4_XS 및 UD-Q4_K_S 모델 사이에 위치하여 선택의 폭을 넓혔어요.