Pulse · AI 뉴스

AdaGrad이 헤비테일 노이즈 환경에서도 수렴 가능한가? – 새로운 연구 결과

AdaGrad · 2026-05-19

연구진은 AdaGrad가 헤비테일 노이즈 환경에서도 수렴할 수 있는지 조사했어요. 4/3 < p ≤ 2인 경우, AdaGrad의 수렴 속도를 처음으로 증명했어요.

p 값에 대한 사전 정보 없이도 AdaGrad가 적응적으로 작동하며, 기존의 헤비테일 최적화 최소값 달성률을 밑도는 하한선을 제시했어요.

AdaGrad-Norm 변형 모델은 1 < p ≤ 2 범위에서 개선된 수렴 속도를 보이며, 추가적인 조건 하에서 적용 가능해요.

##AdaGrad##최적화##헤비테일노이즈##수렴률##Adam
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기