laurencehardman 사용자가 llama.cpp 기반으로 모델의 추론 과정을 제어하는 도구 'MindControl'을 공개했어요. Qwen3.6-27B 모델의 비정확한 추론 문제를 해결하기 위해 개발됐어요. <think> 태그를 활용해 모델이 주어진 토큰 예산 내에서 간결하게 추론하도록 유도해요. GitHub 저장소와 AMD64 + CUDA용 Docker 이미지가 제공돼요.
모델이 생각 예산을 초과하면 '이제 사용자에게 답변을 제공하겠습니다'와 같은 문구를 삽입해 추론을 종료하도록 설계됐어요. 향후 'reasoning grammar'를 개발해 작업에 따른 다양한 추론 방식 적용을 목표로 하고 있어요. 사용자의 피드백을 환영하며, 다른 사용자도 유용하게 활용할 수 있기를 기대하고 있어요.