Nifer는 RTX 5090 GPU를 활용해 Qwen 3.6 35B 모델을 최대 700t/s 속도로 구동하는 오픈소스 프로젝트입니다. 기존 방식 대비 배칭이나 에이전트 병렬 처리 없이도 빠른 속도를 낼 수 있습니다.
No thinking 모드를 통해 성능을 극대화했으며, 250K 컨텍스트를 지원합니다. 현재 Linux 환경에서만 작동하지만, OpenCode나 DeepSeekV4Pro 등을 활용해 Windows에서도 빌드 가능합니다.
Cerebras 수준의 속도를 보여주며, RTX 5090과 Qwen 3.6 27B/35B 모델에 최적화되어 있습니다.