연구진은 LLM의 성능과 비용 간 균형을 맞추기 위해 사용자의 선호도를 반영하는 메타러닝 기반 라우팅 프레임워크 MetaRouter를 개발했어요.
MetaRouter는 사용자의 암묵적인 선호도를 소량의 상호작용만으로 학습하며, 다양한 사용자 요구사항에 맞춰 LLM을 효율적으로 라우팅합니다.
실험 결과 MetaRouter는 기존 방식보다 우수한 성능을 보였고, 사용자 선호도 학습 효율성, LLM 변화에 대한 강건성, 다중 모델 라우팅 확장성도 입증됐어요.