【问题标题】:How to prove the reliability of a predictive model to executives?如何向高管证明预测模型的可靠性?
【发布时间】:2016-10-27 09:53:37
【问题描述】:

我训练了来自 500 台设备的数据来预测它们的性能。然后,我将训练有素的模型应用于另外 500 台设备的测试数据集,并显示了相当不错的预测结果。现在我的主管要我证明这个模型不仅可以在 500 台设备上运行良好,而且可以在一百万台设备上运行。显然,我们没有一百万台设备的数据。如果模型不可靠,他们希望我发现所需的训练数据量,以便对一百万台设备做出可靠的预测。我应该如何应对这些没有统计分析和建模背景的高管?有什么建议?谢谢

【问题讨论】:

  • 我怀疑会有这方面的统计模型,但我也怀疑它们需要更多具体的数据。我对机器学习了解不多,所以很可能是我的错,但你的描述对我来说似乎很模糊。
  • 这不是高管不懂机器学习的问题。他们的观点是有效的。您的训练和测试集可能不代表您的整个数据空间,并且您的模型仅适用于这个有偏差的子集,但无法概括所有数据。您必须向他们展示您采样的小数据集是无偏的。这个问题很容易理解。考虑例如训练和测试集只包含男性客户。即使模型运行良好,它也可能在包含男性和女性客户的真实数据集上表现不佳。
  • @cel 感谢您的回复。你的观点是绝对有效的。训练集的大小与模型的可靠性之间是否存在相关性?因为在下一步中,我需要向他们展示随机选择的训练集足够大,可以构建可靠的模型。
  • @cel 您的回答是正确的。我建议将其作为对 OP 的回答(我也会投票)

标签: machine-learning data-modeling modeling prediction training-data


【解决方案1】:

我建议@cep 写下他的评论作为答案——包括提供variancebias 的计算。无论如何都可以添加

“不要急于假设 Exec 在以下方面基本上没有能力 技术或数学概念”

虽然可能有Dilbert 经理在那里.. 在某个地方我自己很少见到他们。更多情况下,经理们通过努力工作获得了他们的职位。它们可能已经生锈了 - 但这些能力可能仍然存在。

在这种情况下,无论他们是否具有“统计分析和建模背景”,他们都在运用常识。

您可能要做的第一件事是提供正确的上下文和术语。 @cel 提到了其中一些:提供具体值:

  • 假设
    • 您对数据做了哪些假设。
    • 有什么依据可以考虑对有限数据进行外推
    • 为什么说推断的结果可以应用于 99.5% 的未经测试的数据
  • 数据分布
    • 基本描述性统计
    • 您对数据的先验分布的看法。说明您选择它的原因
  • 造型
    • 考虑了哪些模型/方法以及原因
    • 您实际选择了哪种型号以及原因
    • 您是如何获得超参数的
    • 你是如何训练模型的
  • 结果
    • 拟合和错误率的统计测量

【讨论】:

    猜你喜欢
    • 2020-09-26
    • 2018-01-19
    • 2020-03-21
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-11-28
    • 2013-01-27
    • 2018-05-18
    相关资源
    最近更新 更多