앤트로픽이 LCLM(Latent Context Language Models) 패밀리라는 새로운 컨텍스트 압축 모델을 공개했어요. 이 모델은 0.6B 인코더와 4B 디코더로 구성되어 350B 토큰으로 사전 훈련됐어요.
LCLM은 기존 방식보다 더 빠른 압축 속도와 낮은 메모리 사용량을 제공하며, 일반적인 작업 성능, 압축 속도, 최대 메모리 사용량 측면에서 효율성을 개선했어요.
LCLM은 장기적인 관점의 에이전트에게 효율적인 기반이 되어, 압축된 컨텍스트를 빠르게 스캔하고 필요한 부분을 확장하여 활용할 수 있도록 지원해요.