이 논문은 이미지, 비디오, 생체분자 생성 등 생성 머신러닝 분야에서 활용되는 확률 미분방정식에 대한 소개를 담고 있어요. 확률적 프레임워크와 푸코르-플랑크 방정식을 설명하며, 변분 하한(ELBO)을 활용해 확산 모델, 스코어 매칭, 플로우 매칭을 분석해요. 1차원 밀도 모델링 문제를 예시로 다양한 파라미터화를 비교해요.
확산 모델, 스코어 매칭, 플로우 매칭은 모두 가장 일반적인 변분 접근 방식의 특정 파라미터화로 볼 수 있어요. 이 논문은 이러한 접근 방식들을 통일된 관점에서 설명하고, 생성 모델링의 핵심 원리를 이해하는 데 도움을 줘요.
변분 하한(ELBO)은 로그 우도(evidence)에 대한 하한으로, 생성 모델의 성능을 평가하고 개선하는 데 중요한 지표로 사용돼요. 이 논문은 ELBO를 기반으로 다양한 생성 모델링 기법들을 분석하고, 그 원리를 명확하게 제시해요.