Pulse · AI 뉴스

proveKV: LLM KV 캐시 압축 기술 공개 (36배 무손실)

proveKV · 2026-06-05

RecursiveIntell이 LLM KV 캐시 압축 기술 'proveKV' 오픈소스 깃허브 저장소를 공개했어요.

proveKV는 SmolLM2-1.7B 모델에서 f32 대비 36배, fp16 대비 68배 메모리 감소 효과를 보이며 PPL 손실 없이 압축 가능해요.

자동화된 감사 스크립트를 통해 성능 주장을 검증하고, 압축 과정과 기준을 투명하게 공개했어요.

##LLM##KV캐시##압축##오픈소스
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기