Nemotron-Labs-Diffusion은 AR(자기회귀)·확산·자기회귀 예측 3가지 모드를 통합한 새로운 언어 모델입니다. AR과 확산 목표를 공동으로 학습하여 다양한 환경에서 높은 처리량을 유지할 수 있습니다.
연구 결과에 따르면 확산은 예측 계획을 개선하고 AR은 언어적 우선순위를 제공하며, 자기회귀 예측 방식보다 수용률과 실제 장치 효율성이 높습니다.
3B, 8B, 14B 파라미터 규모의 Nemotron-Labs-Diffusion 모델은 정확도와 속도 측면에서 기존 AR 및 확산 언어 모델을 능가하며, 특히 8B 모델은 Qwen3-8B보다 6배 더 많은 토큰을 처리합니다.