【问题标题】:Tensorflow: can it run ResNet-101 on a GTX 1070 (8GB)?Tensorflow:它可以在 GTX 1070 (8GB) 上运行 ResNet-101 吗?
【发布时间】:2016-09-06 07:22:20
【问题描述】:

使用 tensorflow,GTX 1070(8GB RAM)是否足以运行 ResNet-101?

根据 ResNet 论文,ResNet 比 VGG-16 更“简单”。由于 VGG-16 已经在我当前的 4-GB GPU (GTX 960) 中运行良好,更大的 8GB 1070 GPU 应该没有问题,对 ResNet 吧?

【问题讨论】:

    标签: tensorflow gpu nvidia


    【解决方案1】:

    根据this benchmark

    我们以 16 的 minibatch 大小和 224 x 224 的图像大小对所有模型进行基准测试;这允许模型之间的直接比较,并允许除 ResNet-200 之外的所有模型在只有 8GB 内存的 GTX 1080 上运行。

    所有 ResNet 模型,但 200 层深的一个适合 8GB 1080 GTX。由于 1070 GTX 也有 8GB 内存,因此高达 152 层的 ResNet 将适合 GPU 的内存,但不是更深的。

    【讨论】:

    • 你的链接是基于torch实现而不是tensorflow。
    • 是的,我知道,但是如果模型参数全部由 32 位浮点数表示,它们会使用相同的内存,而且我认为框架内存开销不会大到足以使两者之间产生巨大的内存使用差异火炬和张量流。不过,我可能是错的。
    • 但是mini-batch size 16不就意味着准确率下降了吗?
    猜你喜欢
    • 2016-12-29
    • 2019-02-15
    • 2023-03-04
    • 2017-03-05
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-08-02
    • 1970-01-01
    相关资源
    最近更新 更多