TokenPilot은 LLM 에이전트의 장기 세션에서 컨텍스트 축적에 따른 비용 증가 문제를 해결하기 위한 프레임워크예요.
Ingestion-Aware Compaction은 프롬프트 접두사를 안정화하고, Lifecycle-Aware Eviction은 컨텍스트 세그먼트의 유용성을 모니터링하여 불필요한 콘텐츠 삭제를 방지해요.
PinchBench와 Claw-Eval 실험 결과, TokenPilot은 기존 시스템 대비 최대 87% 비용을 절감하면서도 경쟁력 있는 성능을 유지했어요.