Anbeeld가 llama.cpp 기반의 BeeLlama.cpp를 공개하여 Qwen 3.6 27B 모델을 단일 RTX 3090에서 2~3배 빠른 속도로 실행할 수 있도록 했습니다.
BeeLlama.cpp는 DFlash 추론, TurboQuant KV 캐시 압축, 멀티모달 지원, Reasoning 루프 보호 등 다양한 기능을 제공합니다.
Qwen 3.6 27B 모델을 Q5 형식으로 200K 컨텍스트와 함께 RTX 3090 또는 4090에서 실행할 수 있는 플러그 앤 플레이 설정을 제공합니다.
이 프로젝트는 기존 llama.cpp의 한계를 극복하기 위해 개발되었으며, GitHub 저장소를 통해 누구나 사용할 수 있습니다.