Pulse · AI 뉴스

DeepSeek V4 Flash, AMD Ryzen AI MAX+ 395에서 초당 32토큰 처리 속도 달성

DeepSeek · 2026-07-29

Lucebox가 Strix Halo 사용자들을 위해 DeepSeek V4 Flash 모델을 AMD Ryzen AI MAX+ 395에 최적화하여 공개했어요. 128GB 통합 메모리에서 사용 가능한 디코딩 속도를 확보했어요.

ROCmFPX 기술을 활용하여 284B 가중치를 128GB 메모리에 맞추고, Strix 전용 혼합 정밀도 레시피를 구축했어요. 이를 통해 최대 32토큰/초의 속도를 달성했어요.

Sparse prefill을 사용하면 약 250토큰/초의 속도를 얻을 수 있으며, GSM8K 테스트에서 10/10 점수를 기록하는 등 성능을 입증했어요.

##DeepSeek##ROCmFPX##AMD##RyzenAI##StrixHalo
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기