如何评估运行神经网络模型所需的 GPU 内存？

【问题标题】：How to evaluate the required GPU memory for running neural network models?如何评估运行神经网络模型所需的 GPU 内存？
【发布时间】：2021-12-27 12:50:09
【问题描述】：

例如，EfficientNetB3 需要多少 Mb？ On drive 模型权重需要 187 Mb 内存，是否意味着当模型加载到 GPU 上时，它会使用 187 Mb GPU 内存？

【问题讨论】：

标签： python computer-vision gpu

【解决方案1】：

计算总数很困难，但您可以估计仅加载模型的最小值，这大概是模型大小。例如，Tensorflow 默认保留 100% 的 GPU 内存。您可以设置限制，但要使用的内存量取决于很多因素，例如层数、输入图像大小、批量大小等。

【讨论】：