Brick은 LLM 라우터의 어려움을 해결하기 위해 6가지 기능 차원을 기반으로 모델을 평가하고, 쿼리 난이도를 추정하여 비용을 고려한 라우팅을 수행하는 시스템입니다.
최적 품질 모드에서는 5,504개 쿼리 벤치마크에서 76.98%의 정확도를 달성하여 단일 모델과 기존 라우터를 능가했습니다.
중립적인 비용-품질 프로필에서는 가장 강력한 모델보다 4.71배 낮은 비용으로 74.11%의 정확도를 달성하고, 최소 비용 모드에서는 비용을 22.15배 절감했습니다.