是否有任何特定的数据行为导致过拟合和欠拟合？答案

【问题标题】：Is there any specific data behavior that is responsible for overfitting and underfitting?是否有任何特定的数据行为导致过拟合和欠拟合？
【发布时间】：2020-03-02 13:06:10
【问题描述】：

由于我是数据科学的新手，我只想知道是否有任何特定的数据行为会导致过度拟合和/或欠拟合？因为如果我们正在处理线性回归，我们应该通过梯度下降获得最佳拟合线。现在，我们怎样才能得到过拟合或欠拟合？我知道什么是过拟合和欠拟合，但问题是当你已经应用梯度下降来获得最佳拟合线时怎么可能。顺便说一句，我希望我的问题能得到大家的解答。

感谢和问候。

【问题讨论】：

欢迎来到 StackOverflow。请按照您创建此帐户时的建议遵循帮助文档中的发布指南。 On topic、how to ask 和 ...the perfect question 在此处申请。您使用的术语并不特别搭配。
特别是，线性回归可以通过直接计算来解决。在多维中使用梯度下降通常是通过将 Newton-Raphson 的修改应用于二次误差函数来完成的。此类模型没有容易受到过度拟合的复杂搜索空间。
请详细说明您的情况，包括minimal, reproducible example。
我投票决定将此问题作为离题结束，因为它与指南中定义的编程无关。

标签： machine-learning artificial-intelligence linear-regression data-science gradient-descent

【解决方案1】：

数据中的样本数量较少可能是模型过度拟合的主要原因。即使您的模型很简单，数据样本中较少的方差（或变化）也可以使模型学会“仅”对那些样本表现良好，并且可能无法很好地泛化。

【讨论】：

【解决方案2】：

我们可以通过查看编号来检测线性模型的过度拟合。特征和训练误差以及测试误差。

如果模型过拟合：
1. 为训练提供了足够的数据，即更多没有。用于训练的特征。
2. 训练误差远小于测试误差。

如果模型适合：
1. 为培训提供的数据较少，即没有。用于训练的特征。
2. 测试误差远小于训练误差。

使用梯度下降是一个不错的选择。但它可能会导致过度拟合并在现实生活中的数据上失败。

希望这会有所帮助。

【讨论】：