Kadkhodaie 등이 ICLR 2024에서 확산 모델이 학습 이미지 수가 충분하면 동일한 분포로 수렴한다는 것을 입증했어요.
학습 데이터 수에 따른 수렴과 일반화의 관계를 분석한 결과, 입력 차원의 선형 범위에서 수렴이 나타나는 것을 확인했어요.
수렴은 데이터의 주요 잠재 요인 복구와 무관하며, 일반화는 데이터 분포 일치와 잠재 요인 복구라는 두 가지 별개의 목표로 분해돼요.
수렴은 학습된 데이터 분포와 실제 데이터 분포 간의 거리 중 일부만 반영하며, 나머지 부분은 잠재 요인 복구와 관련돼 있어요.