PrismML이 Qwen3.6 27B 기반의 새로운 Ternary 모델 'Bonsai 27B'를 공개했어요. 이 모델은 8B 모델과 마찬가지로 BitNet/Ternary 방식을 적용하여 스마트한 성능을 제공합니다.
llama.cpp 포크를 통해 M4 Pro에서 32K 컨텍스트로 실행하며, 약 10GB의 메모리만 사용합니다. 기존 2~3비트 양자화 모델보다 훨씬 높은 지능을 보여줍니다.
PrismML 팀으로부터 사전 액세스 권한을 받아 테스트한 결과, 27B 모델을 12GB 미만의 메모리에서 실행할 수 있게 되어, 개인용 AGI에 더 가까워졌습니다.