Pulse · AI 뉴스

SYCL/Intel llama.cpp 업데이트

llama.cpp · 2026-07-15

llama.cpp 프로젝트가 SYCL/Intel 환경에 대한 여러 업데이트를 적용했어요. XMX 엔진을 활용한 Flash Attention 최적화로 Qwen3.6-27B 모델의 성능이 크게 향상됐어요. USM 시스템 할당, OP XIELU 지원, fp16 컨볼루션 커널 타입 지원 등 다양한 개선 사항이 포함됐습니다.

Flash Attention 최적화로 인해 Qwen3.6-27B 모델이 p=512에서 1.21배, p=80k에서 4.26배 빠른 속도를 보였어요. USM 시스템 할당을 위한 최소 버퍼 크기가 증가하고, OP XIELU 지원이 추가됐습니다.

다양한 버그 수정과 함께 fp16 컨볼루션 커널 타입 지원이 추가되어 SYCL/Intel 환경에서의 llama.cpp 사용성이 향상됐습니다.

##llama.cpp##SYCL##Intel##FlashAttention
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기