NVIDIA가 Nemotron-Labs-3-Puzzle-75B-A9B 모델을 공개했어요. 이 모델은 Nemotron-3-Super-120B-A12B를 기반으로 Iterative Puzzle 기술로 압축돼 추론 효율성이 높아졌어요.
Mamba, MoE, Attention 레이어를 혼합한 하이브리드 구조를 채택하고 Multi-Token Prediction(MTP)을 지원해 빠른 텍스트 생성 가능해요.
단일 서버 처리량은 기존 모델 대비 약 2배 향상됐고, 100만 토큰 처리 동시 접속자 수 8배 증가했어요.