Mann-E가 LLaMA.cpp와 유사한 GGUF 모델 추론 엔진을 공개했어요. Claude Fable로 계획하고 Grok 4.5 기반으로 ComfyUI의 GGUF 노드를 참고하여 개발했어요.
현재 Flux 모델(2, Klein)에 최적화되어 있으며, 다른 모델 지원도 계획 중이에요. 최소 8GB VRAM이 있다면 Klein 4B 양자화 모델을 사용할 수 있으며, Q4_K_M 양자화가 개인적으로 가장 좋았다고 해요.
피드백이나 기여를 환영하며, Mann-E의 창업자로서 의견을 부탁드려요.