Diffusion LLM(dLLM)은 기존 모델 대비 병렬 생성에서 이론적 이점을 제공합니다. 하지만 실제 속도 향상은 diffusion-aware 캐싱과 재사용 같은 특수 추론 메커니즘이 필요합니다. 본 연구는 dLLM의 추론 속도에 영향을 미치는 알고리즘, 아키텍처, 시스템 요소를 분리하는 통합 프레임워크를 소개합니다.
알고리즘 혁신, 아키텍처 및 시스템 최적화, 추론 시간 스케일링 세 가지 축으로 가속화 기법을 분류하고, 재현 가능한 벤치마킹 가이드라인을 제시합니다. dLLM의 병렬 생성 잠재력을 최대한 활용하기 위한 과제도 강조합니다.
본 조사는 기존 벤치마크의 복잡한 요소들을 분리하여 dLLM 추론 속도 향상을 위한 실질적인 통찰력을 제공합니다.