两次运行 TensorFlow 预测代码*不会*产生相同的结果

Question

我是 tensorflow 新手，所以请原谅我的无知。

我有一个“来自在线教程”的 tensorflow 演示模型，它应该可以预测标准普尔的股票市场价格。当我运行代码时，每次运行它都会得到不一致的结果。训练数据没有变化，我抑制了块洗牌，...

但是，当我在同一次运行中运行预测 2 次时，我会得到一致的结果“即仅使用一次训练，运行两次预测”。

我的问题是：

1. 为什么会得到不一致的结果？
2. 如果您要将此类代码发布到生产环境中，您愿意吗？ 只是拿你上次运行这个模型的训练结果？如果没有，那你会怎么做？
3. 强制模型产生一致的预测是否有意义？怎么会 你这样做？

这是我的代码位置github repo

Answer 1

1. 在训练神经网络时，所涉及的随机性不仅仅是批量改组。层的初始权重也是随机初始化的。

2. 通常，您会使用迄今为止训练过的最佳模型。要确定哪种模型最好，您通常会使用一些在训练期间未使用的测试数据集。

3. 如果您的表现因不同的训练运行而波动，这可能不是一个好兆头。这意味着您的结果很大程度上取决于随机初始化。但我个人不知道任何使学习更稳定的通用技术。但可能有一些。