BeeLlama.cpp 포크의 최신 버전 v0.4.0이 공개됐습니다. 이번 업데이트는 KVarN, KV 캐시 정밀도 보정, q2_0~q3_1 KV 캐시 등 다양한 양자화 기능을 개선하는 데 집중했습니다.
KVarN은 기존 양자화 방식보다 더 높은 정밀도를 제공하며, KV 캐시 정밀도 보정은 모델이 작업 세부 사항을 정확하게 이해하도록 돕습니다. 또한 q2_0~q3_1과 같은 새로운 KV 캐시 유형이 추가됐습니다.
새로운 기능은 Qwen 3.6 27B와 Gemma 4 31B 모델을 사용한 벤치마크 테스트를 통해 성능을 입증했으며