사용자가 로컬 AI 활용 시 불안정성, 컨텍스트 손실, 환각 현상 등의 문제점을 겪고 있어요. 이를 해결하기 위해 Qwen3.6 35B 모델을 활용한 LeanLoop을 개발했어요. LeanLoop은 클라우드 LLM의 계획을 기반으로 로컬 AI가 작은 단위의 작업(leanfile)을 수행하도록 유도해요. 각 작업 완료 후 단위 테스트를 통해 오류를 수정하는 방식으로 품질을 관리해요.
LeanLoop은 간단한 bash 스크립트를 사용하며, 사용자가 기존에 사용하던 에이전트 CLI 툴(aider, qwencodeCLI 등)을 활용할 수 있어요. 향후 멀티 스레드 지원을 통해 여러 작업을 병렬 처리하고, 다양한 모델을 활용할 수 있도록 개선할 예정이에요. 현재 Qwen 코드가 설치되어 있으며, 다른 스크립트의 작동 방식에 대한 기여를 환영해요.
RDNA2 GPU(6800, 6700xt) 환경에서 60~70 tok/s의 속도로 실행되며, 32K 컨텍스트를 지원해요. 사용자의 기여를 통해 스크립트 검증 및 개선을 목표로 하고 있어요.