Pruning Lab
Low-importance weights हटाएं और sparsity, masks व compression impact मापें।
Pruning unimportant weights हटाकर models को छोटा और तेज बनाता है। इससे sparsity आती है: कई weights zero हो जाते हैं और inference में skip हो सकते हैं।
यह लैब weight pruning पर केंद्रित है। आप unstructured pruning या structured variants (row/column groups) आज़मा सकते हैं।
Threshold: |w| cutoff से नीचे वाले weights हटाएं।
Global Top-K: globally सबसे बड़े K weights रखें।
Target Sparsity: दी गई sparsity तक पहुंचने के लिए threshold खोजें।
Row/Column Top-K: हर row या column में top weights रखें ताकि structured sparsity बने।
Random / Iterative: baseline और scheduled pruning से gradual compression दिखाएं।
- Matrix generate करें और चाहें तो values edit करें।
- Pruning strategy और उसके parameters चुनें।
- Pruned matrix और mask को original से तुलना करें।
Matrix Generator
Pruning Settings
Summary
Original Matrix (click to edit)
Cell पर क्लिक करके edit करें। Enter दबाकर सेव करें; खाली values zero बनती हैं।
Pruned Matrix
Mask (1 = keep, 0 = prune)
JSON Export
Notes
- Unstructured pruning उच्च sparsity देता है लेकिन memory access अनियमित होता है।
- Structured pruning hardware पर accelerate करना आसान है लेकिन पूरे features हट सकते हैं।
- Iterative pruning training-time schedules जैसा व्यवहार दिखाता है।