사용자가 mlx-lm에 Nemotron Puzzle 75B 지원을 추가하고 4비트와 5비트 전문가 양자화 성능을 비교했어요. 4비트 전문가 양자화는 평균 14.27 토큰/초를 기록했지만, 5비트 전문가 양자화는 메모리 부족으로 인해 10.53 토큰/초로 성능이 저하됐어요. BF16 출력 헤드를 사용하고, 96/128GB 메모리를 사용하면 5비트 전문가 양자화 성능이 개선될 수 있다고 언급했어요.