Quantization Lab

量化实验

将权重量化为低比特格式并可视化准确率权衡。

现代模型体积大且占内存。量化将权重从 32 位浮点降到更少位数(常见 8、4 甚至 1),缩小模型并加速推理。

核心权衡是准确率与效率。经过校准,低比特模型仍可保留大部分性能。

均匀对称: 围绕 0 缩放,简单且硬件友好。

均匀非对称: 平移范围以适配非零分布。

动态范围(按行): 每行使用独立尺度,提高异质矩阵保真度。

对数 / 二值 / 三值: 极端压缩以换取效率,但失真更大。

  1. 生成随机矩阵或设置密度。
  2. 选择量化模式和比特宽度。
  3. 应用量化并查看 MSE、PSNR 与误差热图。

矩阵生成器

当前: 100%

量化设置

摘要

维度: -
数值范围: -
量化范围: -
MSE: -
PSNR (dB): -
平均 |误差|: -
码率: - 比特/值
最后策略: -

原始矩阵

量化矩阵(整数)

反量化矩阵(浮点)

误差热图(红=正,蓝=负)

JSON 导出