Unsloth에서 Qwen3.6 27B 모델의 NVFP4 양자화를 통해 최대 2.5배 빠른 속도를 구현했어요. NVIDIA의 NVFP4 양자화 대비 정확도 손실 없이 속도 향상에 성공했답니다.
FP8 KV 캐시 교정 기능을 제공하여 최대 2배 더 긴 컨텍스트를 지원하며, MMLU-Pro, AIME 2025, GPQA 벤치마크 테스트를 거쳤어요.
NVFP4-Fast 버전은 W4A4를 전면 사용해 속도를 극대화했고, 일반 NVFP4 버전은 정확도 유지를 위해 혼합 방식을 사용했어요.