Quantization Lab

Model modern besar dan berat. Quantization mengurangi bobot dari float32 ke bit lebih sedikit (8, 4, atau 1), mengecilkan model dan mempercepat inferensi.

Trade-off utama adalah akurasi vs efisiensi. Dengan kalibrasi yang baik, model low-bit masih mempertahankan performa.

Uniform Simetris: skala di sekitar nol; sederhana dan ramah hardware.

Uniform Asimetris: menggeser rentang agar cocok untuk distribusi non-zero.

Dynamic Range (per baris): skala terpisah per baris untuk fidelitas lebih baik.

Log / Biner / Ternary: kompresi agresif untuk efisiensi ekstrem, dengan distorsi lebih besar.

1. Buat matriks acak atau atur densitas.
2. Pilih mode quantization dan lebar bit.
3. Terapkan quantization dan periksa MSE, PSNR, serta heatmap error.