연구진은 Uniform Diffusion Models (UDM)의 표준 플러그인 브리지 파라미터화가 노이즈 제거 후면 분포에 최적화되지 않았음을 밝혀냈습니다.
Leave-One-Out 후면 분포를 활용하여 각 깨끗한 토큰을 자체 노이즈 관측 없이 예측하는 방식으로 UDM의 노이즈 제거 목표를 개선했습니다.
새로운 흡수 상태 재구성을 통해 UDM의 공동 법칙을 유지하면서 마스크된 확산과 유사한 샘플링 연산으로 분해하고, 더 간단한 노이즈 제거 후면 분포를 활용했습니다.
언어 모델링 실험 결과, Leave-One-Out 파라미터화는 UDM 생성 성능을 향상시켰고, 흡수 구조는 마스크된 확산과 유사하거나 뛰어넘는 성능을 보였습니다.