Pulse · AI 뉴스

Zig으로 LLM 서버 직접 개발, LM Studio보다 48% 빠른 성능 기록

Zig · 2026-07-15

Zig 개발자가 LLM 서버 지원을 기다리다 직접 개발하여 새로운 LLM 서버를 출시했어요.

MLX와 GGUF 모델을 지원하며 OpenAI/Anthropic/Ollama API를 사용하고, Gemma 4와 Qwen 3.6에서 LM Studio보다 평균 48% 빠른 성능을 보여요.

Hermes XML, Gemma의 <|tool_call> 형식 등 다양한 모델의 tool calling을 자동 수정하는 기능도 포함돼 있어요.

이미지/영상/음악/음성 복제/3D 생성 등 로컬 미디어 스택도 통합하여 단일 앱으로 관리 가능해요.

##LLM##Zig##MLX##GGUF##toolcalling
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기