사용자가 스트릭스 할로(bosgame m5) 두 대를 클러스터링하여 더 큰 모델을 실행하는 것을 고려 중이며, 이는 256GB RAM을 확보하기 위함입니다.
현재 128GB RAM으로는 미니맥스 2.7, GLM 4.7, Qwen 3.5 모델을 실행할 수 있지만, 256GB로 늘리면 더 높은 사양의 모델을 사용할 수 있습니다.
사용자는 클러스터링 도구, 네트워크 연결 방식(썬더볼트, M2 NVME 어댑터), 병렬 처리 기법(텐서 병렬, 파이프라인 병렬) 등에 대한 경험과 조언을 구하고 있습니다.