Quantization Lab

Quantisierungs-Labor

Komprimiere Gewichte in Low-Bit-Formate und visualisiere Genauigkeits-Trade-offs.

Moderne Modelle sind groß und speicherintensiv. Quantisierung reduziert jedes Gewicht von 32-bit auf weniger Bits (8, 4 oder 1), verkleinert das Modell und beschleunigt die Inferenz.

Der Kern-Trade-off ist Genauigkeit vs Effizienz. Mit guter Kalibrierung behalten Low-Bit-Modelle viel Leistung.

Uniform symmetrisch: skaliert um Null; einfach und hardwarefreundlich.

Uniform asymmetrisch: verschiebt den Bereich für nicht-zentrierte Verteilungen.

Dynamischer Bereich (pro Zeile): nutzt eine Skala pro Zeile für bessere Treue.

Log / Binär / Ternär: aggressive Kompression für maximale Effizienz, aber mit Verzerrung.

  1. Erzeuge eine Zufallsmatrix oder setze die Dichte.
  2. Wähle Quantisierungsmodus und Bitbreite.
  3. Quantisiere und prüfe MSE, PSNR und Fehler-Heatmap.

Matrix-Generator

Aktuell: 100%

Quantisierungs-Einstellungen

Zusammenfassung

Dimensionen: -
Wertebereich: -
Quantisierungsbereich: -
MSE: -
PSNR (dB): -
Durchschn. |Fehler|: -
Bitrate: - Bits/Wert
Letzte Strategie: -

Originalmatrix

Quantisierte Matrix (Integer)

Dequantisierte Matrix (Floats)

Fehler-Heatmap (rot = positiv, blau = negativ)

JSON-Export