最大似然估计器（MLE）无法预测正确答案的测试用例答案

【问题标题】：test cases where Maximum likelihood estimator(MLE) fails to predict the right answer最大似然估计器（MLE）无法预测正确答案的测试用例
【发布时间】：2016-03-11 14:21:15
【问题描述】：

有人知道最大似然估计器（MLE）无法预测正确答案的一些用例场景吗？除了可能需要无限计算、样本或 NP-hard 的问题。

【问题讨论】：

您好 user892713。这似乎是一个指定不足/过于笼统/模糊的问题。您可能希望使其更加集中。此外，您还可以包括您已经调查过的注意事项。
另外，您的问题需要改进，但可能更适合CrossValidated 如果您改进它。

标签： algorithm machine-learning statistics estimation mle

【解决方案1】：

当解空间是凸圆锥时，MLE 保证收敛到正确的解。也就是说，当响应空间的曲率始终为正或负时，它会收敛到一个正确的答案。这种情况可能会稍微过度限制。如果最优解是某种平台，那么它也应该收敛。

因此，不能保证 MLE 在其他情况下会收敛。例如，如果您采用北美的海拔函数并尝试使用 MLE 找到最高点，那么您极不可能会收敛到 Denali。如果初始条件正确，您可能会很幸运。

这是一个连续的案例。如果响应空间中存在任何不连续性，也不能保证收敛。

【讨论】：

nit：这只是 'Denali' 而不是 Mount ;)
同意。收敛也可能取决于优化算法。我的问题是提出条件概率可能无法对场景建模的情况，而不管需要多少计算。如果问题不够具体，我们深表歉意。

【解决方案2】：

随着您收集越来越多的数据——一致性，您通常期望 MLE 越来越接近正确答案。一种不会发生这种情况的情况是，如果您收集更多数据时未知参数的数量会增加，即使您实际上并不关心未知参数的值。 http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.201.5098&rep=rep1&type=pdf - Lancaster 自 1948 年以来的附带参数问题 - 是一篇关于此案例统计数据的调查论文，并以一个简单的例子开始 (P3)。

【讨论】：