사용자가 LLM API 비용을 줄이기 위해 0.57MB 라우터를 개발했어요. 이 라우터는 프롬프트를 분석하여 로컬 또는 클라우드 모델로 라우팅하고, PII 감지 및 탈옥/인젝션 스크리닝 기능도 제공해요.
실제 프롬프트 2,022개에 대한 테스트에서 전체적으로 82%의 정확도를 보였으며, 87.5%의 탈옥 시도 차단 성공률을 기록했어요.
VS Code/Cursor 확장, npm SDK, 호스팅 API 등 세 가지 방법으로 사용해 볼 수 있으며, VS Code 마켓플레이스 및 Open VSX에서 무료로 사용할 수 있어요.