【发布时间】:2017-06-13 20:23:16
【问题描述】:
出于各种硬件和软件性能原因,我想在 TensorFlow 中强制进行对称量化。我认为尝试这一点并将其准确性与现有非对称量化进行比较的最快方法是将量化最大值设置为“ls tensorflow/core/kernels/quant”中各处的最小值的负数.我是否缺少任何其他需要修改的文件?是否有更好的更集中的方式来实现所需的行为?
【问题讨论】:
出于各种硬件和软件性能原因,我想在 TensorFlow 中强制进行对称量化。我认为尝试这一点并将其准确性与现有非对称量化进行比较的最快方法是将量化最大值设置为“ls tensorflow/core/kernels/quant”中各处的最小值的负数.我是否缺少任何其他需要修改的文件?是否有更好的更集中的方式来实现所需的行为?
【问题讨论】:
This commit 添加了 SCALED 模式,这可能是你想要的。
在传统的 MIN_COMBINED 模式下,当您“将量化最大值设置为最小值的负值”时,零点会移动 0.5。那是因为 -|max|映射到 -128 和 |max|映射到 127。
【讨论】: