Pulse · AI 뉴스

Eviction as Estimation: 테스트 시간 메모리 관리를 위한 새로운 시각

NVIDIA · 2026-07-28

연구진은 제한된 작업 메모리를 가진 언어 모델의 테스트 시간 메모리 관리를 추정 문제로 재해석했어요.

새로운 방법인 RMM은 기존 방법(H2O, SnapKV)을 아우르는 프레임워크를 제시하며, 실제 사용도(demonstrated utility)를 측정하여 메모리 재사용 가능성을 예측해요.

통제된 환경에서는 RMM이 기존 방법보다 우수한 성능을 보였지만, 실제 벤치마크에서는 H2O와 SnapKV에 비해 큰 차이가 없었어요.

##메모리관리##RMM##H2O##SnapKV##KVPress
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기