Helldez가 OnePlus 15R에서 CPU만으로 GPT-OSS-120B, Qwen 30B, Gemma 26B 모델을 구동하는 APK를 공개했어요. 모델 크기가 RAM보다 훨씬 커서 메모리에 완전히 로드할 수 없지만, 스트리밍 방식으로 실행돼요.
스트리밍 방식은 메모리 제약에도 불구하고 원본 모델과 동일한 결과를 제공하며, llama.cpp 기반으로 개발되어 유지보수가 용이해요. Qwen3-30B는 5.2 tok/s, Gemma-4-26B는 4.1 tok/s의 속도를 보여줘요.
Android에서 메모리 관리가 어려워 커널이 메모리를 회수하는 문제를 해결하는 데 많은 노력이 필요했으며, 현재는 GitHub에서 APK를 다운로드하여 사용할 수 있어요.