Pulse · AI 뉴스

KV 캐시 삭제 오류에 대한 무작위 설계 오류 증명서

arXiv cs.CL · 2026-07-24

연구진은 KV 캐시 삭제 방식의 문제점을 지적하며, 결정론적 삭제 방식은 삭제된 값의 변경을 알 수 없어 오류 추정치가 일관되지 않다고 밝혔습니다. 무작위 삭제 방식을 통해 문제점을 해결하고, 오류 증명서를 생성할 수 있습니다. 실제 워크로드 테스트 결과, 캐시로 인한 오류와 고유한 오류를 구별하는 데 효과적이었으며, 재계산 일정을 최적화했습니다.

##KV캐시##오류증명서##무작위설계
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기