Llama.cpp 사용자 커뮤니티에서 MTP, KV 캐시 양자화, 긴 컨텍스트 환경에서 최적의 설정에 대한 질문이 나왔어요. 사용자는 vllm 버전으로 40k 컨텍스트를 테스트했지만, 새로운 llama.cpp 패치 버전 사용 경험을 공유하는 사용자가 필요하다는 의견을 밝혔어요. 현재 MTP를 사용하며 60tks를 처리하지만, 컨텍스트가 빠르게 채워지면서 20tks로 떨어지는 문제를 겪고 있으며, 더 나은 옵션과 사용자 경험 공유를 요청했어요.