Lab Pruning
Hapus bobot ber-importance rendah dan ukur sparsity, mask, dan dampak kompresi.
Pruning menghapus bobot yang tidak penting agar model lebih kecil dan cepat. Ini menciptakan sparsity: banyak bobot menjadi nol dan bisa dilewati saat inferensi.
Lab ini fokus pada pruning bobot. Kamu bisa mencoba pruning tidak terstruktur (bobot individual) atau varian terstruktur (baris/kolom).
Ambang: hapus bobot dengan |w| di bawah ambang.
Global Top-K: pertahankan K bobot terbesar secara global.
Sparsity target: cari ambang untuk mencapai sparsity tertentu.
Row/Column Top-K: pertahankan top bobot per baris/kolom untuk mendekati sparsity terstruktur.
Acak / Iteratif: baseline dan pruning terjadwal untuk menunjukkan kompresi bertahap.
- Buat matriks dan opsional edit nilai.
- Pilih strategi pruning dan parameternya.
- Bandingkan matriks prune dan mask dengan aslinya.
Generator Matriks
Pengaturan Pruning
Ringkasan
Matriks asli (klik untuk edit)
Klik sel untuk edit. Enter untuk simpan; kosong jadi nol.
Matriks prune
Mask (1 = pertahankan, 0 = prune)
Ekspor JSON
Catatan
- Pruning tidak terstruktur memberi sparsity tinggi namun akses memori tidak teratur.
- Pruning terstruktur lebih mudah diakselerasi tapi bisa menghapus fitur utuh.
- Pruning iteratif mensimulasikan jadwal pelatihan untuk kompresi stabil.