Pulse · AI 뉴스

선호도 기반 온디바이스 RAG를 위한 효율적인 메모리 구축: EPIC

EPIC · 2026-05-18

연구진은 개인 AI 에이전트의 온디바이스 구현을 위해 개인화된 맥락을 저장하는 데 필요한 메모리 효율성을 높이는 EPIC(Efficient Preference-aligned Index Construction)을 제안했어요.

EPIC은 사용자의 선호도를 기반으로 개인화된 맥락을 구축하고 RAG 파이프라인 전반에 걸쳐 통합하여 메모리 사용량을 2,404배 줄이고 선호도 준수 정확도를 20.17% 향상시켰어요.

온디바이스 실험에서 EPIC은 1MB 미만의 메모리 공간을 사용하며 쿼리당 29.35ms의 낮은 지연 시간으로 스트리밍 업데이트를 지원해요.

##RAG##온디바이스##LLM##메모리##EPIC
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기