연구진이 DeepSeek Sparse Attention(DSA) 인덱서의 병목 현상 완화를 위해 PIVOT라는 새로운 기술을 개발했어요.
PIVOT는 쿼리 그룹의 prefix scan을 공유하여 속도를 최대 4배 향상시키고, end-to-end 지연 시간을 최대 1.6배 단축했어요.
PIVOT-Reuse는 속도 우선, PIVOT-Refine은 정확도 우선으로 설계되었으며, 두 가지 변형 모두 inference 단계에서 사용돼요.
DeepSeek-V3.2와 GLM-5.1 모델에서 LongBench와 RULER 벤치마크 테스트 결과, 기존 DSA 인덱서와 동등한 정확도를 유지하면서 성능을 향상시켰어요.