【发布时间】:2016-10-27 09:53:37
【问题描述】:
我训练了来自 500 台设备的数据来预测它们的性能。然后,我将训练有素的模型应用于另外 500 台设备的测试数据集,并显示了相当不错的预测结果。现在我的主管要我证明这个模型不仅可以在 500 台设备上运行良好,而且可以在一百万台设备上运行。显然,我们没有一百万台设备的数据。如果模型不可靠,他们希望我发现所需的训练数据量,以便对一百万台设备做出可靠的预测。我应该如何应对这些没有统计分析和建模背景的高管?有什么建议?谢谢
【问题讨论】:
-
我怀疑会有这方面的统计模型,但我也怀疑它们需要更多具体的数据。我对机器学习了解不多,所以很可能是我的错,但你的描述对我来说似乎很模糊。
-
这不是高管不懂机器学习的问题。他们的观点是有效的。您的训练和测试集可能不代表您的整个数据空间,并且您的模型仅适用于这个有偏差的子集,但无法概括所有数据。您必须向他们展示您采样的小数据集是无偏的。这个问题很容易理解。考虑例如训练和测试集只包含男性客户。即使模型运行良好,它也可能在包含男性和女性客户的真实数据集上表现不佳。
-
@cel 感谢您的回复。你的观点是绝对有效的。训练集的大小与模型的可靠性之间是否存在相关性?因为在下一步中,我需要向他们展示随机选择的训练集足够大,可以构建可靠的模型。
-
@cel 您的回答是正确的。我建议将其作为对 OP 的回答(我也会投票)
标签: machine-learning data-modeling modeling prediction training-data