ContextForge는 LLM의 장기 기억 문제를 해결하기 위해 Betanu701이 개발한 SDK입니다.
SQLite를 사용하여 데이터를 디스크에 저장하고 가벼운 인덱스를 구축하여 각 단계마다 최소 작업 세트를 재구성합니다.
짧은 벤치마크 평가를 넘어선 장기 실행에서 MemPalace보다 성능이 우수하며, Qwen 모델을 llama.cpp에서 실행하도록 설계되었지만 vLLM 등 다양한 시스템과 호환됩니다.
arXiv에 관련 접근 방식에 대한 자세한 내용이 담긴 논문이 공개되었습니다.