최근 몇 주간 로컬 LLM을 활용해 기술 관련 질문에 답하려 했지만, 생산성 저하로 인해 결국 포기했어요. Claude Code와 비교했을 때, 로컬 모델은 의사 결정 능력과 도구 호출 능력에서 현저히 떨어졌어요.
Qwen 27B, Gemma 4 31B 등 최상위 로컬 모델을 사용했지만, Docker 빌드와 같은 작업에서 예외 처리 부족, 과도한 토큰 소비 등 문제에 직면했어요.
향후 OpenRouter를 통해 Kimi와 같은 고성능 모델을 사용하고, 로컬 LLM은 자동화, 연구, 텍스트 게임 등 특정 작업에만 활용할 계획이에요.