Quantization Lab

量子化ラボ

重みを低ビット形式へ圧縮し、精度のトレードオフを可視化します。

現代のモデルは大きくメモリ負荷が高いです。量子化は重みを 32bit から少ないビット(8/4/1)に削減し、推論を高速化します。

核心は精度と効率のトレードオフ。適切な校正で低ビットでも性能を保てます。

一様対称: ゼロ周りでスケーリング。シンプルでハードウェア向き。

一様非対称: 非ゼロ分布に合わせて範囲をシフト。

動的レンジ(行別): 行ごとのスケールで異質行列の忠実度を向上。

ログ / バイナリ / テルナリ: 極端な圧縮で効率を上げるが歪みが増える。

  1. ランダム行列を生成するか密度を設定。
  2. 量子化モードとビット幅を選択。
  3. 量子化して MSE、PSNR、誤差ヒートマップを確認。

行列ジェネレータ

現在: 100%

量子化設定

サマリー

次元: -
値の範囲: -
量子化範囲: -
MSE: -
PSNR (dB): -
平均 |誤差|: -
ビットレート: - bits/値
最後の戦略: -

元の行列

量子化行列(整数)

逆量子化行列(実数)

誤差ヒートマップ(赤=正、青=負)

JSON 出力