Reddit 사용자가 cloud inference 플랫폼(Together AI)과 vLLM 로컬 실행 시 벤치마크 결과 차이 분석 자료를 찾고 있어요. greedy decoding 환경에서 두 방식의 성능 차이를 비교 분석한 자료가 있는지 문의했어요. 관련 자료가 있다면 공유해 주세요.
Reddit 사용자가 cloud inference 플랫폼과 vLLM 로컬 실행 시 벤치마크 결과 차이 분석 자료를 찾고 있어요. greedy decoding 환경에서 두 방식의 성능 차이를 비교 분석한 자료가 있는지 문의했어요.