사용자가 3090과 기존 3060을 결합하여 32GB VRAM 환경을 구축하고 Ubuntu, Llama.cpp를 처음 사용하게 됐어요. Gwen 3.5 4B 모델을 사용해 왔으며, 어떤 모델부터 시작해야 할지 질문했어요.
코딩 학습을 위한 애플리케이션 개발에 관심이 많으며, Llama.cpp 환경 설정을 통해 새로운 경험을 쌓고자 합니다. 현재는 더 강력한 GPU를 갖게 되어 기쁜 마음을 표현했어요.
Gwen 3.6 27B 모델을 포함하여 어떤 모델을 사용해볼지 추천을 구하며, 새로운 환경에서 LLM을 활용할 계획이에요.