DominoTree는 LLM 추론 속도를 높이기 위해 개발된 새로운 드래프트 트리 방식입니다. Domino 드래프터의 GRU 기반 수정 기능을 활용하여 토큰 간의 의존성을 고려합니다. Qwen3-4B 모델에서 6.6배까지 속도 향상을 보였으며, 라운드당 평균 수락 토큰 수도 10.7개로 가장 높습니다. DominoTree는 GPU CUDA 그래프 빌더를 사용하여 효율성을 높였으며, 기존 Domino 드래프터보다 더 빠른 처리 속도를 제공합니다.
DominoTree는 DDTree 및 CaDDTree보다 성능이 뛰어나며, 다양한 온도 조건에서 우수한 결과를 보여줍니다. Qwen3-8B 모델에서는 DDTree보다 높은 수락 길이를 유지하며, 24%의 처리량 향상을 달성했습니다. DominoTree는 기존 방식 대비 속도와 성능 모두 개선하여 LLM 추론 효율성을 높이는 데 기여합니다.
DominoTree는 별도의 학습 과정 없이 적용 가능하며, 기존 Domino 드래프터 위에 구축되어 활용도를 높였습니다.