LLM은 예측 및 복잡한 추론 작업에 뛰어나지만, 도구 호출, 전문가 자문, 자원 투자 결정 등 불확실성 하의 의사 결정을 필요로 하는 경우가 많습니다.
본 논문은 에이전트 AI 시스템의 제어 계층(LLM과 도구를 오케스트레이션)이 베이지안 원칙이 빛을 발할 수 있는 명확한 사례라고 주장합니다.
LLM 자체를 명시적인 베이지안 믿음 업데이트 엔진으로 만드는 것은 계산 비용이 많이 들고 개념적으로 어렵지만, 오케스트레이션 수준에서 베이지안 원칙이 필요합니다.