Пользователь r/LocalLLaMA представил утилиту, которая тестирует критичность весов до применения квантизации. Инструмент опробован на Qwen3.6-27B в трёх конфигурациях сборки.
Стандартная квантизация применяет единую битность ко всем весам. Подход с предварительным тестированием значимости может дать более эффективное сжатие — или хотя бы понимание, какие слои можно квантизовать агрессивнее.