Pulse · AI 뉴스

AnchorKV: 안전성 강화된 KV 캐시 압축 기술

AnchorKV · 2026-06-16

연구진은 LLM의 KV 캐시 압축 시 안전성 문제를 해결하기 위해 AnchorKV라는 새로운 기술을 제안했어요.

AnchorKV는 유해 프롬프트와 관련된 키 공간 방향에서 토큰 유지 점수를 이동시켜 안전성을 강화하는 방식으로 작동해요.

이 기술은 유틸리티 손실을 최소화하면서도 안전성 정렬을 개선하며, 필요에 따라 기존 압축기로 되돌릴 수 있어요.

##LLM##KV캐시##안전성##압축##AnchorKV
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기