사용자가 2500달러 미만으로 GLM5.2를 구동할 수 있는 하드웨어 구성 방법을 공유했어요. eBay에서 부품을 조달해 총 1920달러로 구성 가능하며, 추가적으로 580달러를 더하면 2500달러 예산에 맞출 수 있어요. Q2/Q3/Q4 변형 모델을 cmoe와 llama.cpp를 통해 구동할 수 있으며, 성능 향상을 위해 더 빠른 GPU로 업그레이드할 수 있어요.
P40 24GB GPU 2개, 512GB DDR4 메모리, 메인보드와 CPU를 포함한 구성은 각각 460달러, 230달러, 1000달러로, 총 1920달러가 소요돼요. 전원 공급 장치, 저장 장치, 팬 등을 추가하면 580달러가 더 필요해요.
GLM5.2를 구동하는 것은 느릴 수 있지만, 계획 수립 및 디버깅에 활용할 수 있으며, Fable, Mythos와 같은 모델을 대체할 수 있다는 장점이 있어요.