asallay 사용자가 GDScript와 Vulkan compute shader만으로 Godot 내 Gemma 4 실행에 성공했어요. llama.cpp 없이 모델 계산을 Vulkan compute shader에서 처리하며, GDScript는 GGUF 로딩, 토큰화, 샘플링, KV 캐시, 채팅 UI를 담당해요. 실험적인 결과로, llama.cpp 대비 10배 느리지만 Godot 내 LLM 실행 가능성을 보여줘요.
Gemma 4-E2B-it-Q4_K_M 모델을 로컬에서 실행하는 Godot 4.7 프로젝트 코드가 GitHub에 공개됐어요. 이 프로젝트는 Godot 엔진 내에서 LLM을 실행하는 새로운 가능성을 제시합니다.