연구자가 로컬 음성-음성 LLM NPC 백엔드를 오픈소스로 공개했어요. 이 백엔드는 클라우드 없이 NPC-NPC 대화를 지원하며, 플레이어 몰입도 향상에 초점을 맞췄어요.
NPC는 이전 대화 내용을 기억하고 활용하며, 스토리 진행을 돕는 Game Manager AI도 포함돼 있어요. Llama 3.2 3B 모델로 약 400~600ms TTFA를 달성해 실제 대화와 유사한 느낌을 제공해요.
GPU 과부하 방지를 위해 생성 잠금 기능을 사용하며, NPC 전환이 거의 즉각적으로 이루어져 자연스러운 대화 흐름을 유지해요. WebSocket 기반으로 Unity, Unreal 등 다양한 환경에서 활용 가능해요.
연구자는 사용자들의 피드백과 개선을 기대하며, NPC 프롬프트와 Game Manager 프롬프트 튜닝을 통해 게임에 적용할 수 있도록 안내하고 있어요.