본 논문은 디퓨전 모델의 일반화 이해를 위해서는 기존의 통계적 학습 이론과 벤젠 오버피팅 패러다임을 넘어선 새로운 이론적 프레임워크가 필요하다고 주장합니다.
디퓨전 모델은 기존의 지도 학습과 달리 학습 데이터 암기와 새로운 샘플에 대한 일반화가 상충되는 관계에 있으며, 학습 데이터를 완전히 암기한 모델은 새로운 데이터를 생성하는 것이 아니라 복사본을 생성합니다.
연구진은 디퓨전 모델이 암기를 피하는 이유를 설명하는 대신, 암기 이전 단계에서 모델이 무엇을 학습하는지 조사해야 한다고 강조하며, CIFAR-10 데이터셋을 활용한 실험을 통해 구체적인 질문들을 제시했습니다.