사용자가 RTX 3090으로 로컬 LLM을 사용하며 컨텍스트 크기 제한에 직면했어요. 더 큰 프로젝트를 위해 AMD GPU (예: Radeon 9070)를 추가하는 것을 고려 중이에요. AMD와 NVIDIA GPU 혼합 사용은 LMStudio에서 잘 지원되는 추세예요. 2026년 현재 혼합 사용의 지원 및 성능, 그리고 NVIDIA GPU로 교체하는 것의 장단점을 문의했어요.
현재 모델 (Qwen 3.6 27B, Gemma 4 26b a4b)을 사용 시 36/40GB VRAM이 이상적이라고 판단하고 있어요. 두 번째 3090을 추가하는 것보다 AMD GPU를 추가하는 것이 비용, 전력 소비, 쿨링 측면에서 더 효율적이라고 판단했어요. AMD GPU를 추가하여 컨텍스트를 확보하는 것이 가능한지 질문했어요.
RTX 3090에 모델을 로드하고 AMD GPU를 컨텍스트 용도로 사용하는 것이 일반적인 방식인지 확인하고 싶어해요. 혼합 GPU 사용에 대한 정보와 함께 NVIDIA GPU로 교체하는 것에 대한 조언을 구하고 있어요.