Pulse · AI 뉴스

GLM-5.2-Int4-Int8 모델 8배 GB10 환경에서 초당 1200 t/s prefill 성능 기록

GLM · 2026-07-15

Reddit 사용자가 GLM-5.2-Int4-Int8 모델이 8배 GB10 환경에서 초당 1200 t/s prefill 성능을 냈다고 공유했어요. 코딩/구조화된 작업에서 평균 디코딩 속도는 33~54 t/s를 기록했어요.

남은 메모리를 활용해 이미지/오디오 입력을 위한 Mimo 2.5 모델도 병렬로 실행 가능했어요. 두 모델 모두 8비트 양자화로 구동됐어요.

해당 내용은 X(구 트위터)에 공유됐으며, Reddit 게시글에서 확인할 수 있어요.

##GLM##모델성능##양자화
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기