Pulse · AI 뉴스

PIVOT: 효율적인 쿼리 그룹 인덱싱을 통한 토큰 레벨 희소 어텐션 가속화

DeepSeek · 2026-07-28

연구진이 DeepSeek Sparse Attention(DSA) 인덱서의 병목 현상 완화를 위해 PIVOT라는 새로운 기술을 개발했어요.

PIVOT는 쿼리 그룹의 prefix scan을 공유하여 속도를 최대 4배 향상시키고, end-to-end 지연 시간을 최대 1.6배 단축했어요.

PIVOT-Reuse는 속도 우선, PIVOT-Refine은 정확도 우선으로 설계되었으며, 두 가지 변형 모두 inference 단계에서 사용돼요.

DeepSeek-V3.2와 GLM-5.1 모델에서 LongBench와 RULER 벤치마크 테스트 결과, 기존 DSA 인덱서와 동등한 정확도를 유지하면서 성능을 향상시켰어요.

##희소어텐션##인덱싱##최적화##DeepSeek##GLM
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기