Pulse · AI 뉴스

KronQ: 크로네커-팩터링 헤세션을 활용한 LLM 양자화

Llama · 2026-07-08

KronQ는 LLM 양자화 프레임워크로, 기존 방식이 간과했던 그래디언트 공분산을 활용해 성능을 개선했어요.

KronQ는 입력과 출력 차원 모두에서 공분산을 활용한 양방향 불일치 처리와 새로운 민감도 지표를 도입했어요.

LLaMA-3-70B 모델 2비트 양자화 시 KronQ는 GPTQ 대비 7.93의 우수한 퍼플렉시티를 달성했어요.

##LLM##양자화##KronQ##LLaMA
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기