TensorFlow QAT 如何获得量化权重答案

【问题标题】：TensorFlow QAT how to get the quantized weightsTensorFlow QAT 如何获得量化权重
【发布时间】：2020-10-23 00:53:54
【问题描述】：

如何在 TensorFlow 的量化感知训练 (QAT) 后获取量化权重的值或获取量化感知权重。我想在 NumPy 上为应用程序使用整数量化权重。到目前为止，我使用如下，它给出了 float32 值。

import tensorflow.keras.backend as K

for layer in q_aware_model.trainable_weights:
    weights_temp.append(K.get_value(layer))

【问题讨论】：

【解决方案1】：

要查看量化权重，您必须先转换模型。参见this TF example中的进程描述和numpy应用程序

请注意，您可能需要使用 nightly tf build 才能使量化函数正常工作。

【讨论】：