Anthropic·OpenAI·Gemini 모델에 적용 가능한 컨텍스트 압축 도구 'Distil'이 공개됐어요. Distil은 압축 과정에서 의사 결정 등가성을 검증하는 기술을 적용해, 에이전트의 성능 저하 없이 컨텍스트를 압축하는 것을 목표로 합니다.
표준 라이브러리만 사용하며, 런타임 의존성이 없어 다양한 환경에서 실행 가능하며, 필요시 압축된 컨텍스트를 복원할 수 있어요. SWE-bench에서 전체 컨텍스트와 동일한 성능(42.0% vs 39.2%)을 보여줬으며, 공격적인 압축은 의사 결정 등가성을 깨뜨릴 수 있다고 해요.
초기 버전에서 잘못된 요약으로 인해 에이전트의 성능이 저하되는 문제를 겪은 경험을 바탕으로, 프레픽스 안정성과 꼬리 부분 압축, 그리고 의사 결정 등가성 검증이라는 설계 원칙을 세웠어요. 10초 데모를 통해 별도의 API 키 없이도 사용해 볼 수 있어요.