사용자가 Jetson Orin NX SUPER에 Gemma 4 E4B를 탑재한 완전 오프라인 로봇 'Sparky'를 제작했습니다. 캐시 TTFT가 약 200ms로 향상되었으며, 30개 이상의 센서 데이터를 활용합니다. 네트워크 연결 없이 로봇을 제어할 수 있습니다.
캐시 안정성을 위한 프롬프트 구조 개선으로 시스템 블록에서 동적 컨텍스트를 제거하여 캐시 TTFT를 크게 단축했습니다. Persona, 도구, 히스토리를 분리하고 최신 사용자 턴의 센서 데이터를 마지막에 배치하는 방식으로 구현했습니다.
버튼, 조이스틱, 아날로그 인코더 노브를 통해 로봇을 온디바이스로 구성할 수 있으며, 네트워크 인터페이스가 전혀 없습니다. Gemma 4 E4B를 Orin-class 하드웨어에 사용하는 다른 사용자들의 경험 공유를 환영합니다.