TRACE-ROUTER는 LLM 라우팅을 작업 단위로 맞춰 피드백을 정확하게 반영하는 프레임워크입니다. 작업 시작 시 모델을 한 번 선택하고, 작업 완료 시 정확도와 지연 시간을 모두 고려하여 정책을 업데이트합니다. 세 가지 에이전트 벤치마크에서 TRACE-ROUTER는 정확도와 지연 시간 간의 균형을 개선했습니다.
tau2-Bench에서 기존 모델 간 보간법보다 7~8개의 정확도 포인트를 향상시켰고, Terminal-Bench에서는 가장 강력한 단일 모델 기준보다 7.1개의 정확도 포인트를 더 높이고 지연 시간은 36% 단축했습니다. LLM 라우팅 정책이 작업 부하에 맞춰 적응하도록 학습합니다.