Pulse · AI 뉴스

LLM 학습 방식 혁신? 백프로프 없는 에피소딕 메모리 기술 공개

r/MachineLearning · 2026-05-05

연구자가 LLM의 작동 원리를 분석한 결과, 선형 출력 투영 모델에서 교정 벡터를 계산하여 손실 함수에 대한 정확한 기울기를 얻을 수 있음을 발견했습니다.

이 기술을 활용하여 웨이크/슬립 CLS 시스템을 구축, Pythia-410M 모델에서 48개의 사실에 대해 99.3%의 정확도를 달성했으며, 추론 과정에서 백프로프를 사용하지 않습니다.

연구 결과는 GitHub에 공개되었으며, arXiv cs.LG 분야의 논문 게재를 목표로 하고 있습니다.

##LLM##연구##메모리##백프로프
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기