LLM 에이전트의 신뢰성 기법들을 통신 이론 기반으로 분석하는 프레임워크가 제시되었습니다. 이는 LLM 샘플링을 이산 확률 채널로 간주하여 Shannon의 코딩 이론과 연결하는 방식입니다.
다양성 결합, 반복 재전송 등 6가지 고전적인 신뢰성 연산자가 LLM 에이전트의 신뢰성 기법으로 해석될 수 있으며, 특정 조건 하에서 품질 가중 평균보다 균일 평균이 더 효과적이라는 분석 결과도 도출되었습니다.
연구진은 비용을 고려한 의미상 가장 가까운 이웃 라우터를 개발하여 품질-비용 경계를 탐색하고, 69개의 어려운 작업에서 기존 기법 대비 비용을 최대 56% 절감하거나 품질을 7% 향상시키는 성과를 거두었습니다.