使用 NHWC 数据格式的 Tensorflow Intel MKL 优化

【问题标题】：Tensorflow Intel MKL Optimization with NHWC data format使用 NHWC 数据格式的 Tensorflow Intel MKL 优化
【发布时间】：2019-11-23 01:25:16
【问题描述】：

TensorFlow 编译时使用了 Intel MKL 优化，许多操作将得到优化并支持 NCHW。

谁能解释一下，为什么英特尔 MKL 比 NHWC 更支持 NCHW 格式？

【问题讨论】：

标签： tensorflow intel-mkl intel-tensorflow intel-ai-analytics

【解决方案1】：

TensorFlow 默认的 NHWC 格式不是 CPU 最有效的数据布局，它会导致一些额外的转换开销。因此英特尔 MKL 支持 NCHW 格式

【讨论】：

你能简单解释一下吗？如果可能的话

【解决方案2】：

MKLDNN 将在自定义（阻塞）内存布局上运行其大部分计算量大的数学运算，并且从 NCHW --> 阻塞的转换需要与 NHWC --> 阻塞相似的时间。因此，纯 MKLDNN 原始加速度应该没有区别。不同之处在于某些基于 GEMM 的数学，默认情况下适用于 NCHW 格式，这意味着如果输入格式为 NCHW，某些 matmul 调用将不需要布局转换。

【讨论】：