Step 3.7 커뮤니티가 Flash IQ4_XS GGUF 모델을 공개했어요. 이 모델은 7B 파라미터 규모로, 낮은 VRAM 환경에서도 사용 가능해요. 저장 공간을 줄이면서도 성능을 유지하는 데 초점을 맞췄어요.
모델은 Hugging Face에서 다운로드할 수 있으며, 다양한 양자화 옵션을 제공해 사용자가 필요에 따라 선택할 수 있어요. 저장 공간이 제한적인 환경에서 LLM을 실행하려는 사용자에게 유용해요.
Flash IQ4_XS GGUF 모델은 기존 모델에 비해 크기가 작아졌지만, 추론 속도와 품질은 유지하며, 특히 저사양 기기에서 효율적인 사용을 가능하게 해요.