量化实验
将权重量化为低比特格式并可视化准确率权衡。
现代模型体积大且占内存。量化将权重从 32 位浮点降到更少位数(常见 8、4 甚至 1),缩小模型并加速推理。
核心权衡是准确率与效率。经过校准,低比特模型仍可保留大部分性能。
均匀对称: 围绕 0 缩放,简单且硬件友好。
均匀非对称: 平移范围以适配非零分布。
动态范围(按行): 每行使用独立尺度,提高异质矩阵保真度。
对数 / 二值 / 三值: 极端压缩以换取效率,但失真更大。
- 生成随机矩阵或设置密度。
- 选择量化模式和比特宽度。
- 应用量化并查看 MSE、PSNR 与误差热图。
矩阵生成器
当前: 100%
量化设置
摘要
维度: -
数值范围: -
量化范围: -
MSE: -
PSNR (dB): -
平均 |误差|: -
码率: - 比特/值
最后策略: -