연구진은 LLM 에이전트의 동시성 제약을 해결하기 위해 AsyncFC 프레임워크를 개발했어요. AsyncFC는 모델 디코딩과 함수 실행을 분리하여 모델 디코딩과 함수 실행의 중첩 및 함수 간 병렬 처리를 가능하게 해요.
표준 벤치마크와 소프트웨어 엔지니어링 벤치마크에서 AsyncFC는 작업 완료 시간을 크게 단축하면서 작업 정확도를 유지했어요.
연구 결과, LLM은 미해결 실행 결과를 나타내는 심볼릭 미래에 대해 추론할 수 있는 고유한 능력을 가지고 있어 모델-도구 상호 작용에 대한 비동기 패러다임을 가능하게 하는 것으로 나타났어요.