연구자가 양자화 대신 3진 분해 기법을 적용한 실험 결과를 공유했어요. Q4km 수준의 성능을 보이면서도 VRAM 사용량이 약간 증가했어요. 이 기법은 완전한 PTQ(Post-Training Quantization) 방식으로, 추가적인 훈련 없이 적용 가능해요.
3진 분해는 모델 크기를 줄이고 추론 속도를 높이는 데 기여할 수 있으며, 기존 양자화 방식의 대안으로 주목받고 있어요. 연구 결과는 arXiv에 공개됐으며, 관련 코드는 GitHub에서 확인할 수 있어요.