标签： 模型量化

模型量化格式是指深度学习模型经过量化处理后所采用的标准化表示方式，量化过程通过降低模型权重和激活值的数值精度（如从32位浮点数缩减到8位整数），以显著减小模型体积、加速推理速度并降低计算功耗，同时力求在可接受的精度损失范围内维持模型性能。 […]

模型量化感知训练（Quantization Aware Training, QAT）是一种在深度学习模型训练过程中主动引入量化模拟的技术，通过在训练阶段模拟低精度（如8-bit整数）计算操作，使模型适应量化带来的误差，从而在后续部署到资源受 […]