연구진은 기존 KVCache 전략의 한계를 지적하며, 어텐션 헤드의 역할에 따라 다른 캐시 정책을 적용하는 Pyramid Forcing 프레임워크를 제안했어요.
Pyramid Forcing은 Anchor, Wave, Veil 헤드를 구분하고, 각 헤드에 맞는 캐시 길이를 설정하여 장기 영상 생성 품질을 향상시켰어요.
VBench-Long에서 Self Forcing 점수를 77.87에서 81.21로 끌어올리는 등, 영상의 움직임, 시각적 충실도, 의미 일관성을 개선했어요.