Pulse · AI 뉴스

LLM 망각 학습: 토큰 수준 중요도 학습을 통한 개선

OpenAI · 2026-06-05

연구진은 LLM에서 망각 과정에서 모든 토큰이 똑같이 중요하지 않다는 점에 주목했어요.

Alternating Token-Weighted Unlearning (ATWU)이라는 새로운 프레임워크를 제안하여 토큰의 망각 특이성을 학습하고 모델 파라미터를 조정했어요.

ATWU는 기존 방식보다 뛰어난 망각-유지 균형을 달성하고, 토큰 수준의 의미 있는 망각 신호를 더 잘 파악했어요.

##LLM##망각##토큰##unlearning##ATWU
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기