사용자가 Windows 11 LTSC에서 Ubuntu 26.04로 전환할 계획이에요. Linux가 추론 작업에서 Windows보다 빠르고 안정적이라고 생각하기 때문입니다.
llama.cpp 마이그레이션에 대한 우려가 있으며, 특히 NVIDIA RTX 5060 Ti 16GB GPU 환경에서 VLLM 대신 -sm tensor 옵션을 사용하려 합니다.
Ubuntu에서 CUDA 13.3 빌드를 쉽게 구할 수 없는 점과 NVIDIA 드라이버 선택, P2P 드라이버 설치에 대한 질문이 있습니다.
llama.cpp를 Windows와 Linux에서 사용할 때 주의해야 할 점이나 설정 시 놓치기 쉬운 부분이 있는지 조언을 구하고 있습니다.