연구진이 GUI 기반 시각-언어 모델의 KV 캐시 압축 프레임워크인 STaR-KV를 제안했어요. STaR-KV는 온라인 공간 상호 정보에 기반한 서브스페이스 인식 점수, 시간적 안정성 할인, 엔트로피 기반 온도 조절을 통해 KV 캐시 중요도를 조정해요.
기존 방식의 구조적 가정(공유 중요도 맵, 고정된 Top-B cutoff)을 벗어나 공간적 특수성이 레이어별로 이동하고 점수 분포가 변하는 현상을 반영했어요.
STaR-KV는 4개의 GUI 벤치마크에서 GUIKV, SnapKV 등 기존 방식보다 높은 정확도를 달성하며, GPU 메모리를 최대 40% 절감했어요.
STaR-KV 코드는 GitHub에서 확인할 수 있어요.