Laboratorio di pruning
Rimuovi pesi a bassa importanza e misura sparsita, maschere e impatto della compressione.
Il pruning rimuove pesi poco importanti per rendere i modelli piu piccoli e veloci. Introduce sparsita: molti pesi diventano zero e possono essere saltati in inference.
Questo laboratorio si concentra sul pruning dei pesi. Puoi provare pruning non strutturato (pesi individuali) o varianti strutturate (gruppi di righe o colonne).
Threshold: rimuove pesi con |w| sotto una soglia.
Global Top-K: mantiene i K pesi piu grandi globalmente.
Target Sparsity: trova automaticamente una soglia per raggiungere una sparsita data.
Row/Column Top-K: mantiene i pesi top per riga o per colonna per approssimare sparsita strutturata.
Random / Iterative: baseline e pruning schedulato per mostrare compressione graduale.
- Genera una matrice e opzionalmente modifica i valori.
- Scegli una strategia di pruning e i suoi parametri.
- Confronta matrice e maschera prunata con l originale.
Generatore di matrice
Impostazioni pruning
Riepilogo
Matrice originale (clicca per modificare)
Clicca una cella per modificare. Premi Enter per salvare; valori vuoti diventano zero.
Matrice prunata
Maschera (1 = mantieni, 0 = pruna)
Esportazione JSON
Note
- Il pruning non strutturato produce alta sparsita ma accesso in memoria irregolare.
- Il pruning strutturato e piu facile da accelerare su hardware ma puo rimuovere intere feature.
- Il pruning iterativo simula schedule di training per una compressione stabile.