【发布时间】：2017-02-07 23:26:27
【问题描述】：
我开始学习机器学习。我在阅读 PRML 的书时遇到了一个问题。它讨论了LMS算法并用它来解决回归问题。 wi+1 = wi + alpha*梯度 我不知道如何确定“阿尔法”。 那么，如何解决呢？
【问题讨论】：
标签： machine-learning regression linear-regression
【发布时间】：2017-02-07 23:26:27
【问题描述】：
alpha 是学习率或步长（梯度下降）。这是我们要调整的关键参数，因此您可以从选项列表开始，例如：
0.1, 0.01, 0.001, ...
看看哪一个在训练时间和预测准确性方面效果更好。如果 learning_rate 太高，您可能会看到成本没有减少（甚至增加）。另一方面，如果它太低，您可能会注意到学习需要很长时间才能收敛到一个好的状态。
如果您使用 tensorflow（或其他库/工具）来实现算法，您需要选择优化器，例如 GradientDescentOptimizer。你会注意到第一个参数是learning_rate。
learning_rate: A Tensor or a floating point value. The learning rate to use.
【讨论】：