프리즘ML(PrismML)은 메모리 제약과 높은 정확도 요구 사항을 균형 있게 맞춘 새로운 1.58비트 언어 모델인 Ternary Bonsai 제품군을 발표했습니다.
Ternary Bonsai는 8B, 4B, 1.7B 파라미터 세 가지 크기로 제공되며, {-1, 0, +1}의 3진수 가중치를 사용하여 표준 16비트 모델보다 약 9배 작은 메모리 공간을 차지하면서도 벤치마크에서 우수한 성능을 보입니다.
현재 MLX 2비트 형식이 지원되며, 다른 백엔드에 대한 추가적인 형식 지원이 곧 제공될 예정이며, 사용자들은 Hugging Face를 통해 모델을 다운로드할 수 있습니다.