Prism-ML이 Qwen 3.6 27B 모델을 기반으로 한 Bonsai 모델을 공개했어요. Bonsai는 경량화된 모델로, 온디바이스 추론에 최적화된 구조를 가지고 있어요. 이 모델은 다양한 하드웨어에서 실행 가능하며, 특히 저사양 기기에서도 효율적인 성능을 제공해요.
Prism-ML은 Qwen 3.6 27B 모델을 Bonsai로 변환하는 과정을 상세히 설명하며, 이를 통해 모델 크기를 줄이고 추론 속도를 높일 수 있다고 밝혔어요. Bonsai 모델은 연구 및 개발 목적으로 자유롭게 사용할 수 있으며, 상업적 이용도 가능해요.
Bonsai 모델은 기존 모델에 비해 메모리 사용량을 줄이고, 추론 지연 시간을 단축하여 온디바이스 AI 애플리케이션 개발에 기여할 것으로 기대돼요. Prism-ML은 Bonsai 모델의 성능을 지속적으로 개선하고, 더 많은 모델을 지원할 계획이라고 전했어요.