산업 현장 에이전트 워크플로우는 센서 데이터, 작업 지시, 예측 도구 등 다양한 요소 간의 협업으로 지연에 민감합니다. AssetOpsBench(AOB) 벤치마크는 이러한 문제를 평가하며, 도구 검색, LLM 계획, MCP 도구 실행, 요약 과정에서 반복적인 오버헤드가 발생합니다. 기존 LLM 캐싱 기법은 챗봇 서비스에 맞춰 설계되어 시간, 자산, 센서 파라미터에 따라 출력 유효성이 달라지는 산업 현장에서는 제대로 작동하지 않습니다.
연구진은 AOB 파이프라인의 시간 기반 의미 캐싱과 디스크 기반 도구 검색 캐싱, 의존성 기반 병렬 단계 실행을 결합한 MCP 워크플로우 최적화 두 가지 방법을 제안했습니다. MCP 워크플로우 최적화는 속도를 1.67배 향상시키고, 중앙값 전체 프로세스 지연 시간을 약 40.0% 단축했습니다. 시간 기반 캐시는 캐시 히트 시 중앙값 속도를 30.6배 향상시켰습니다.
연구 결과는 파라미터가 풍부한 산업 현장 쿼리에 대한 순수 의미 캐싱의 실패 모드를 보여주며, MCP 기반 에이전트 벤치마크에서 캐싱 선택이 평가 정확성과 어떻게 상호 작용하는지에 대한 중요한 분석을 제공합니다.