【问题标题】:How to quantize all nodes except a particular one?如何量化除特定节点以外的所有节点?
【发布时间】:2018-10-22 13:34:57
【问题描述】:

我正在使用tensorflow Graph Transform Tool 来量化图形使用

input_names = ["prefix/input"]
output_names = ["final_result"]


transforms1 = ["strip_unused_nodes","fold_constants(ignore_errors=true)",  "fold_batch_norms",  "fold_old_batch_norms","quantize_weights" ]

transformed_graph_def = TransformGraph(graph.as_graph_def(), input_names,output_names, transforms1)

我使用选项quantize_weights 来量化图中的权重,我知道通过更改quantize_weights 中的阈值minimum_size 可以保持某些节点未量化,因此保留一些节点未量化当然是可能的。

我想量化除名称为 K 的特定节点或名称在 K(set) 中的一组节点之外的所有节点的权重。如何实现?

【问题讨论】:

    标签: tensorflow


    【解决方案1】:

    编辑:上一个答案是指 Tensorflow Lite 代码。我更新了它以引用 Tensorflow。

    查看Tensorflow's quantize_weights 的实现,这些是权重未量化的实例:

    1. 非浮点类型的张量
    2. 具有少于 1024 个权重的张量(或由参数 minimum_size 指定的其他数字)

    如果您能够修改图中的节点,以便它们被上述规则之一排除,然后量化,然后将节点恢复到预量化状态,您也许可以做到这一点。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2015-10-29
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2015-04-27
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多