연구진이 멀티모달 LLM의 양자화 효율성을 높이는 C-PTQ 방법을 제안했어요. C-PTQ는 작업별 손실 변화와 양자화 오류를 통합하여 채널 스케일링을 최적화합니다. Fisher-weighted 객관 함수를 활용해 작업 감도를 스케일링 과정에 반영하며, LoRA 같은 추가 모듈 없이도 최첨단 성능을 달성했어요.
C-PTQ는 Qwen2.5VL, InternVL2, LLaVA-OV 모델을 8개 벤치마크에서 테스트하여 가중치만 사용하거나 가중치-활성화 방식을 모두 적용했을 때 효과를 입증했어요. 기존 방식 대비 성능 저하를 최소화하면서 모델 크기와 연산 비용을 줄일 수 있습니다.
C-PTQ는 기존 방식의 채널별 중요도 측정과 스케일링 요인 불일치 문제를 해결하여 MLLM의 실용적인 배포 가능성을 높입니다.