Pulse · AI 뉴스

ExTernD: 정확도 손실 없이 양자화 수준에 근접하는 확장 랭크 삼항 분해 양자화 LLM

ExTernD · 2026-07-16

연구진이 고정된 행렬 크기로 삼항 양자화 PTQ를 시도하는 것은 막다른 길임을 지적하며, 행렬을 2개의 삼항 행렬과 내부 대각 스케일링 행렬로 분해하는 방법을 제안했어요.

내부 랭크를 임의로 크게 설정하여 정확도를 극적으로 개선하고, 기존 양자화 방식 대비 약간 더 많은 VRAM만 소모하는 것을 확인했어요.

이 연구는 삼항 수학을 활용하여 LLM 양자화의 새로운 가능성을 제시하며, 정확도와 효율성 모두를 잡을 수 있는 잠재력을 보여줘요.

##LLM##양자화##PTQ##ExTernD
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기