【问题标题】:Tensorflow batch size in input placholder输入占位符中的 TensorFlow 批量大小
【发布时间】:2017-01-21 18:48:26
【问题描述】:

我是 Tensorflow 的新手,我不明白为什么输入占位符的尺寸通常与用于训练的批次大小一致。

在这个例子中我找到了here,而在官方 Mnist 教程中却不是

from get_mnist_data_tf import read_data_sets
mnist = read_data_sets("MNIST_data/", one_hot=True)
import tensorflow as tf
sess = tf.InteractiveSession()
x = tf.placeholder("float", shape=[None, 784])
y_ = tf.placeholder("float", shape=[None, 10])
W = tf.Variable(tf.zeros([784,10]))
b = tf.Variable(tf.zeros([10]))
sess.run(tf.initialize_all_variables())
y = tf.nn.softmax(tf.matmul(x,W) + b)
cross_entropy = -tf.reduce_sum(y_*tf.log(y))
train_step = tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)
for i in range(1000):
  batch = mnist.train.next_batch(50)
  train_step.run(feed_dict={x: batch[0], y_: batch[1]})
correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))

print(accuracy.eval(feed_dict={x: mnist.test.images,
                               y_: mnist.test.labels}))

那么,对模型输入进行标注和创建模型输入并进行训练的最佳和正确方法是什么?

【问题讨论】:

  • 形状是可选的,但指定形状可以帮助底层系统选择最有效的实现

标签: python machine-learning tensorflow deep-learning


【解决方案1】:

您在此处指定模型输入。您希望将 Batch 大小保留为 None,这意味着您可以使用可变数量的输入(一个或多个)运行模型。批处理对于有效利用计算资源很重要。

x = tf.placeholder("float", shape=[None, 784])
y_ = tf.placeholder("float", shape=[None, 10])

接下来重要的一行是:

batch = mnist.train.next_batch(50)

这里您发送 50 个元素作为输入,但您也可以将其更改为一个

batch = mnist.train.next_batch(1)

无需修改图表。如果您指定 Batch 大小(在第一个 sn-p 中使用某个数字而不是 None),那么您每次都必须更改,这并不理想,特别是在生产中。

【讨论】:

  • 因此,如果计算图将 [100, 784] 和 [100,10] 作为这些占位符的输入,假设 1 个元素我们的输出将是什么? [100,1]?
猜你喜欢
  • 2017-08-05
  • 1970-01-01
  • 1970-01-01
  • 2014-09-27
  • 2016-10-02
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-08-24
相关资源
最近更新 更多