사용자 dev-boz가 장기 AI 세션의 일관성을 유지하기 위해 '확산적 의미 압축' 방식을 제안했어요. 이 방식은 문맥을 점진적으로 렌더링하는 것처럼 압축을 활용해 세션 내용을 처리합니다.
세션 내용을 압축해 개요를 만들고, 점진적으로 덜 압축된 부분을 읽어 세부 사항을 파악하는 방식입니다. 모델은 각 단계에서 압축된 내용을 읽고, 현재 입력 및 출력과 함께 처리합니다.
현재까지는 Qwen2.5 7B 모델로 기본적인 테스트를 진행했지만, 전체 프로세스에서 어려움을 겪고 있으며, 위치 인지 학습을 통해 개선될 가능성이 있습니다.