Pulse · AI 뉴스

Qwen3.5 122B 모델, 64GB RAM 환경에서 UD-Q2_K_XL로 구동해본 결과

Qwen · 2026-07-16

사용자가 64GB RAM 환경에서 Qwen3.5 122B 모델을 UD-Q2_K_XL 양자화로 구동해봤습니다. Qwen3 Next 80B 대비 내부 지식 수준이 높고 응답 품질이 우수합니다.

UD-Q2_K_XL은 Q2 양자화임에도 불구하고 MTP 활성화 시에도 괜찮은 성능을 보여주며, 프롬프트 처리 속도가 느려지는 단점이 있습니다.

DDR5-5600 RAM을 사용하면 생성 속도가 6 tok/s까지 향상될 수 있지만, 현재는 고품질 응답을 위해 속도 저하를 감수하고 있습니다.

##LLM##Qwen##양자화##메모리
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기