사용자가 eGPU 환경(3060, NUC, Proxmox)에서 MoE 모델 실행 시 성능 저하를 겪고 있습니다. 3.6 27B 모델을 실행하기에는 성능이 부족하며, Pass-through 방식이 원인일 수 있습니다.
DGX Spark를 고려 중인데, 중고 GPU 구매에 대한 부담감과 전력 소비, 크기 문제를 해결할 수 있는 대안으로 보입니다.
커뮤니티에서 DGX Spark에 대한 부정적인 의견이 많지만, 사용자의 제약 조건(전력 소비, 크기)을 만족하고, 3.6 27B 모델 실행 가능성이 있어 고려할 만한 가치가 있습니다.