线性回归中的学习算法输出什么？答案

【问题标题】：What does learning algorithm output in linear regression?线性回归中的学习算法输出什么？
【发布时间】：2015-10-08 20:40:43
【问题描述】：

阅读 Andrew NG 的机器学习课程的课程笔记，它指出线性回归：

获取训练集并将其传递给学习算法。该算法输出一个函数 h（假设）。 h 接受一个输入并尝试输出估计值 y。

它接着说：

将 h 表示为：h theta(x) = theta0 + theta1x

这不是说学习算法没有输出假设，而是我们定义为h theta(x) = theta0 + theta1x

而不是“获取一个训练集并将其传递给一个学习算法。该算法输出一个函数 h（假设）。”语句应该是“获取训练集并将其传递给学习算法。算法输出使假设尽可能准确的值”？

【问题讨论】：

Does this not mean the hyptohesis was not outputted by the learning algorithm, instead we just defined it as h theta(x) = theta0 + theta1x - 你在这里是什么意思？ theta(x) = theta0 + theta1x 是你的假设。
@cel 假设定义为 "h theta(x) = theta0 + theta1x" 。正如课程笔记中所述，学习算法确实输出了这个假设。
我不明白这两个语句之间的区别。返回一个函数或返回一个参数函数的所有必要参数基本上是相同的信息。
@cel 我的意思是在之前的评论中说 "@cel 假设被定义为 "h theta(x) = theta0 + theta1x" 。学习算法没有输出这个假设，如课程笔记中所述. " 我区分返回函数和返回函数的求值。学习算法似乎返回值，而不是函数。
我认为 cel 在这里是正确的，但我们看不到您的系统输出。您很可能将假设的系数视为两个原始数字。我假设你的任务是获取系数并建立方程。

标签： machine-learning linear-regression gradient-descent

【解决方案1】：

对于线性回归，您希望您的学习算法输出一个线性函数。

即 h(x) = theta0 + theta1x。

在这种情况下，学习算法会学习最优的 theta0 和 theta1 以适应您的训练数据。

如果您希望学习算法学习 3 次多项式，则学习模型的输出将是 a、b、c 和 d 这样

h(x) = ax³ + bx² + cx + d

但是您的断言是正确的，学习算法会选择最佳参数来最小化误差函数的成本。通常这是平方误差 + 一些正则化因子。

【讨论】：

【解决方案2】：

原则上你就在这里。学习理论中定义的真正learning algorithm 是一种算法，它获取标记实例和一整类可能的假设作为输入，然后选择一个假设作为输出。

所以严格来说，输出预测的算法不是学习算法。但是当然这样的算法可以拆分为学习算法——实际上是learns参数的算法，这里是thetas。以及一个预测算法，它将一些输入实例转换为我们的预测，然后返回给调用者。

【讨论】：

我不确定您是否可以在这里做出区分。他在问题中指出，算法返回的是系数（嗯，他说的是 theta 值），而不是预测。因此，在没有任何代码的情况下，这可能只是一个真正的学习算法，只有一组返回学习结果的print 语句。我看不到任何建议，即有另一部分将采用新的输入并将线性方程用于输出，例如一种预测算法。
如果我正确理解了这个问题，那么本书指出，该算法输出一个函数，但它实际上输出了转换后的值——这就是造成混淆的原因。在我的算法理论中，没有打印语句:)。但是确实，如果算法以合适的编码形式输出参数，那么它就是真正的学习算法。但是话又说回来，我真的不明白 OP 的问题。
我认为这个问题只是对措辞有点迂腐，当你最初的 cmets 没有得到答案时，你让它变得更复杂了。原则上您是完全正确的，但我不确定该原则是否适用于此。我对这个问题的看法：他建议因为系数作为原始值返回，所以它没有返回函数。你最初的观察是正确的——它们是相同的，只是呈现方式不同，他认为课程措辞应该反映这一点
@roganjosh，很公平，但我的问题现在正好回答了问题的标题：P
哈哈，没错。我认为在没有任何反馈的情况下，我们已经走到了死胡同。此时线程中应该有足够多的信息来回答这个问题，无论它的真实形式是什么：P 我投票赞成以反映回答标题。