量子化ラボ
重みを低ビット形式へ圧縮し、精度のトレードオフを可視化します。
現代のモデルは大きくメモリ負荷が高いです。量子化は重みを 32bit から少ないビット(8/4/1)に削減し、推論を高速化します。
核心は精度と効率のトレードオフ。適切な校正で低ビットでも性能を保てます。
一様対称: ゼロ周りでスケーリング。シンプルでハードウェア向き。
一様非対称: 非ゼロ分布に合わせて範囲をシフト。
動的レンジ(行別): 行ごとのスケールで異質行列の忠実度を向上。
ログ / バイナリ / テルナリ: 極端な圧縮で効率を上げるが歪みが増える。
- ランダム行列を生成するか密度を設定。
- 量子化モードとビット幅を選択。
- 量子化して MSE、PSNR、誤差ヒートマップを確認。
行列ジェネレータ
現在: 100%
量子化設定
サマリー
次元: -
値の範囲: -
量子化範囲: -
MSE: -
PSNR (dB): -
平均 |誤差|: -
ビットレート: - bits/値
最後の戦略: -