Reddit 사용자가 4x MI100 GPU 기반 개인 LLM 서버 구축 비용을 공유하며, API 사용 대비 장기적인 경제성을 분석했어요.
서버 구축에 약 6406.45달러가 들었으며, 전기 요금과 감가상각비를 고려하면 연간 유지 비용은 770.15달러로, API 사용 비용 3701.10달러보다 훨씬 저렴했어요.
Z.AI 코딩 플랜과 같은 다른 LLM 구독 서비스는 동일한 성능을 제공하는 데 더 많은 비용이 들며, 하드웨어 감가상각을 고려하면 개인 서버 구축이 더 합리적인 선택일 수 있어요.