【问题标题】：Is Maximum Likelihood Estimation (MLE) a parametric approach?最大似然估计 (MLE) 是一种参数方法吗？
【发布时间】：2014-08-05 09:47:57
【问题描述】：
新颖性检测的主要概率方法有：参数和非参数。 Non-para 假设从训练数据派生的分布或密度函数，如 Kernel Density Estimation（例如：Parzen Windows），而 para 方法假设数据来自已知分布。
我不熟悉参数化方法。谁能告诉我一些众所周知的算法？顺便问一下，如果MLE是一种参数化的方法（密度曲线已知，然后求最大值对应的参数）？
【问题讨论】：
标签：
machine-learning
statistics
【解决方案1】：
是的，根据定义，MLE 是一种参数化方法。您正在估计分布的参数，从而最大化观察数据的概率。在两者之间，非参数方法通常意味着无限数量的参数，而不是没有参数。例如狄利克雷过程。
【解决方案2】：
我认为您对这里的很多术语感到困惑。
最大似然对于参数模型（例如高斯分布）是有意义的，因为参数的数量是先验固定的，因此询问“最佳”估计是什么是有意义的。最大可能性为您提供（许多）可能的答案。
理解非参数方法的一种方式是，它们的参数数量随着样本数量的增加而增加。因此，KDE 对每个数据点都有一个参数，外加一个带宽参数。 MLE 在这里意味着什么？随着越来越多的数据到达，您会增加参数的数量，因此对于一组固定的参数没有最佳价值的感觉。