사용자가 Streamlit 앱에서 모델 교체 코어를 분리해 Python 라이브러리 'promptchain'을 출시했어요.
promptchain은 LM Studio, Ollama 등 다양한 백엔드에서 모델 교체를 제어하는 통합 API를 제공합니다.
VRAM 제어, 사전 로딩, 자동 상태 재조정 등 편의 기능을 제공하며, Hermes Agent와 연동해 AI 에이전트가 GPU를 관리할 수 있습니다.
MIT 라이선스로 공개되었으며, 피드백을 환영합니다.