Agora는 LLM 에이전트의 추론 능력을 향상시키기 위해 경매 기반 작업 할당 메커니즘을 도입하는 프레임워크입니다. 기존 방식의 문제점을 개선하여, 기능적으로 유사한 모델 간 성능 변동성과 비용 효율성을 고려합니다.
Agora는 추론 단계를 거래 가능한 상품으로 취급하여, 각 모델이 자신의 역량을 기반으로 입찰하도록 유도하여 핵심 로직을 가장 유능한 솔버에게 할당합니다.
5가지 벤치마크 평가 결과, Agora는 유사한 후보 풀에서 단일 모델, 라우팅, 캐스케이드 기반 모델보다 성능이 우수하며, 단일 경매 파라미터로 비용-품질 균형을 조절할 수 있습니다.