GPUHedge는 서버리스 GPU 제공업체의 콜드 스타트 지연 문제를 해결하기 위해 개발된 오픈소스 프로젝트입니다. GPUHedge는 주 공급업체에서 요청을 시작하고, 상태를 감시하며, 백업 공급업체로 전환하여 p95 지연 시간을 117초에서 30초로 단축했습니다. 초기 벤치마크 결과, GPUHedge는 요청당 활성 컴퓨팅 비용을 $0.0114에서 $0.0083으로 모델링했습니다.