Pulse · AI 뉴스

지수 감쇠 메모리 활용, 어텐션 성능 향상…OLMo2-7B 모델에 적용

OLMo · 2026-05-28

연구진은 RAT+ 기술의 지수 감쇠 메모리가 기존 쿼리 기반 희소 어텐션 방식의 정확도를 향상시킨다는 사실을 확인했어요.

Quest, MoBA, SnapKV 등 대표적인 방법론에 적용한 결과, 다양한 희소 예산 환경에서 표준 어텐션보다 성능이 우수했어요.

OLMo2-7B 모델을 추가 메모리 모듈로 사전 훈련하여 100억 토큰을 학습했고, 메모리 모듈이 쿼리 기반 희소 추론에 기여하는 원인에 대한 가설을 제시했어요.

##어텐션##희소어텐션##OLMo##RAT+##메모리
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기