Pulse · AI 뉴스

7900xtx 환경에서 Vulkan llama.cpp 베타 설정 공유: Qwen3.6 35B 모델, 262K 컨텍스트

Qwen · 2026-06-27

Reddit 사용자가 7900xtx 환경에서 Vulkan llama.cpp 베타 설정을 공유했어요. Qwen3.6 35B 모델을 262K 컨텍스트로 실행하며, 메모리 사용량과 토큰 생성 속도가 최적화된 ROCm 7.14보다 빠르다고 해요.

설정은 서버 경로, 모델 경로, 데이터 디렉터리, Vulkan 장치, 호스트, 포트, 컨텍스트 크기, 캐시 타입, 스레드 수 등 다양한 옵션을 포함하고 있어요.

설정 스크립트를 실행하면 llama-server가 시작되며, 로그 파일은 데이터 디렉터리에 저장돼요.

##llama.cpp##Vulkan##Qwen3.6##7900xtx
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기