Pulse · AI 뉴스

ggml-hip: -ffast-math 활성화로 HIP 빌드 성능 향상

Qwen · 2026-07-06

ggml-org/llama.cpp 프로젝트에서 HIP 빌드 시 `-ffast-math` 옵션을 활성화하여 Qwen3.5-27B 모델의 성능을 향상시켰어요.

RDNA3.5 환경에서 Qwen3.5-27B 모델의 head_dim=256 (TILE path) 환경에서 최대 7.0% 성능 향상을 확인했어요.

FA=0 설정에서는 성능 차이가 미미했지만, FA=1 설정에서 Qwen3-0.6B 모델도 BF16 환경에서 3.4% 성능 향상을 보여줬어요.

##llama.cpp##HIP##ggml##Qwen
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기