NVIDIA는 새로운 NVFP4 기술을 발표하며, AI 모델 학습 및 추론 속도를 최대 3배까지 향상시킬 수 있다고 밝혔습니다. NVFP4는 FP4 데이터 형식을 활용하여 메모리 대역폭을 효율적으로 사용하고, 모델 정확도를 유지하면서 성능을 극대화하는 데 초점을 맞췄습니다. 이 기술은 다양한 AI 모델과 프레임워크에 적용 가능하며, 특히 대규모 언어 모델(LLM)의 효율적인 운영에 기여할 것으로 기대됩니다.