Reddit 사용자가 Bonsai(1비트)와 ThinkingCap(@2.5비트) 모델의 성능을 비교 분석했어요. Instruct 방식으로는 큰 차이가 없지만, 추론 과정에서는 한계가 느껴진다고 언급했어요. Tiny sample 데이터로 실험했는데, 전기 요금 때문에 더 많은 실험을 진행하지 못했다고 밝혔어요.
Bonsai와 ThinkingCap 모델의 성능 비교는 생성 토큰 효율성과 정확도, 모델 크기와 정확도 간의 관계를 보여줘요. Instruct 방식은 큰 영향을 미치지 않지만, 추론 과정에서는 성능 차이가 발생할 수 있어요. Reddit 사용자는 제한적인 데이터로 실험을 진행했어요.