Local SGD는 분산 최적화 알고리즘으로, 미니 배치 SGD보다 성능이 뛰어난 경우가 많습니다. 본 논문은 2차 이질성 가정 하에서 일반적인 볼록 목적 함수에 대한 Local SGD의 개선된 수렴 보장을 확립하고, 기존 하한 경계를 개선했습니다. 이를 통해 Local SGD의 더 정확하고 세밀한 수렴 이론을 제공합니다.
Patel et al. (2025)의 연구는 강하게 볼록 목적 함수에 대한 Local SGD의 효율성을 설명하며, 일반적인 볼록 설정에서도 동일한 원리가 적용될 것이라고 추측했습니다. 본 논문은 해당 추측을 증명합니다.
본 연구는 희귀한 고곡률 클라이언트에 대한 2차 이질성의 영향을 파악하는 serial SGD의 하한 경계를 제공합니다.