Slater Victoroff가 PyTorch 모델을 WebGPU 실행 파일로 컴파일하는 Kuma 프로젝트를 공개했어요. Kuma는 그래프, 가중치, WGSL 백엔드 커널, 런타임 메타데이터를 포함하는 자체 포함 패키지로 컴파일합니다. 이를 통해 Python 없이 브라우저에서 WebGPU를 통해 직접 실행할 수 있습니다.
현재 데모는 신경 비디오 표현이지만, 과학적 ML을 위한 연산자 네트워크를 목표로 합니다. 백엔드 커널을 패키지에 포함하는 것이 적절한지, 기존 배포 문제를 해결하는지, 유사한 접근 방식을 사용하는 시스템이 있는지에 대한 피드백을 구하고 있습니다.
ONNX, IREE, TVM, ExecuTorch, MLIR 등 컴파일러/런타임 프로젝트 경험이 있는 사람들의 의견을 환영합니다.