数据集 API——用于批处理的可变输入大小

Question

我正在训练一个可以接受可变输入大小的模型（它是一个完全卷积网络），它具有相当复杂的输入管道。

这就是为什么我必须使用数据集 api 的 from_generator 方法来处理所有逻辑。

但是，我希望能够在不同大小的图像批次上训练网络。 例如。对于第一批，输入图像的大小可能是 200x200，但对于下一个，它可能是 300x300。

我想针对各种尺寸范围（例如，从 100x100 到 2000x2000）随机化这个过程。

使用 feed_dict 这将非常简单：我会在每个训练步骤上准备一个具有特定图像大小的批次。

有什么方法可以使用（高性能）数据集 api 来做到这一点，这样我就可以利用多线程/预取而无需做太多工作？

Answer 1

最好的办法是从要支持的每个不同 minibatch 大小的数据集开始，在每个此类数据集中进行批处理，然后在构建迭代器之前将它们交错。