개발자 tibzejoker가 LLM 에이전트 프레임워크의 토큰 낭비 문제를 해결하기 위해 Reactive 노드 네트워크 'brAIn'을 개발했어요. 기존 프레임워크의 주기적인 모델 폴링 방식 대신, 메시지 기반의 Reactive 방식으로 GPU 사용률을 최소화했어요. 모든 작업은 로컬 환경에서 진행되며, NATS pub/sub 버스를 통해 노드를 연결하고, Ollama를 통해 모델을 관리해요.
각 노드는 특정 메시지에 구독하며, 메시지가 도착했을 때만 모델을 호출하여 불필요한 GPU 사용을 줄여요. 또한, 반복 실행 예방을 위한 반복 예산 기능도 포함돼 있어요. Telegram, WhatsApp, Discord 연동 기능과 노드 마켓플레이스도 제공돼요.
brAIn은 각 노드가 자체 UI를 제공할 수 있도록 설계되었으며, 코딩 CLI (Claude, Codex, Gemini)를 연결하여 에이전트에게 실제 컴퓨터를 제공하거나 다른 API 제공자를 사용할 수 있어요. GitHub 저장소를 통해 코드를 확인할 수 있으며, Reactive 접근 방식에 대한 피드백을 환영해요.