Pulse · AI 뉴스

모델 기반 샘플링을 활용한 확률적 경사 최적화

arXiv cs.LG · 2026-06-26

본 연구는 머신러닝 최적화를 위한 확률적 경사 추정의 분산 문제를 다룹니다.

모델 기반 샘플링 프레임워크를 제안하여, 데이터 세트를 유한 모집단으로 간주하고 경사를 샘플 기반 추정치로 해석합니다.

보조 경사 예측 모델을 활용하여 효율적인 경사 추정기를 구축하며, 보조 정보가 없을 경우 균일 샘플링이 특수한 경우로 나타납니다.

실험 결과, 합성 데이터 및 6개의 벤치마크 데이터 세트에서 71~86%의 실험에서 성능 향상을 보였으며, 특히 중간 크기 입력 공간에서 효과적입니다.

##최적화##머신러닝##경사##샘플링
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기