연구진이 Diffusion Transformer(DiT) 모델의 효율성을 높이는 Elastic Diffusion Transformer(E-DiT) 프레임워크를 제안했어요. E-DiT는 각 샘플에 따라 달라지는 DiT 블록의 스파스성을 활용해 연산량을 줄여요. 2D 이미지(Qwen-Image, FLUX)와 3D 에셋(Hunyuan3D-3.0) 실험에서 최대 2배 속도 향상을 달성했어요.
E-DiT는 각 DiT 블록에 가벼운 라우터를 장착해 샘플별 스파스성을 동적으로 식별하고, 블록 스킵 여부와 MLP 폭 감소 비율을 예측해요. 훈련 없이 블록 레벨 특징 캐싱 메커니즘을 도입해 중복 연산을 제거해요.
기존 가속화 방법의 한계를 극복하고 생성 품질을 유지하면서 효율성을 개선하는 데 목표를 둬요. DiT의 생성 과정에서 샘플별로 스파스성이 크게 다르다는 점에 주목했어요.
Github 저장소와 arXiv 논문이 공개됐으며