我正在使用 python 的 statsmodels 包进行线性回归。在R^2、p等的输出中也有“对数似然”。在文档中，这被描述为“拟合模型的似然函数的值”。我看过源代码，并不太明白它在做什么。
阅读更多关于似然函数的信息后，我仍然对这个“对数似然”值的含义或用途有非常模糊的想法。所以有几个问题：
在线性回归的情况下，似然函数的值不是和参数的值一样吗（本例为beta）？根据以下推导公式 12 似乎是这样：http://www.le.ac.uk/users/dsgp1/COURSES/MATHSTAT/13mlreg.pdf
知道似然函数的值有什么用？是否要与具有相同响应和不同预测变量的其他回归模型进行比较？实际的统计学家和科学家如何使用 statsmodels 吐出的对数似然值？
【问题讨论】：
标签： python statistics statsmodels
似然（以及扩展的对数似然）是统计学中最重要的概念之一。它用于一切。
对于您的第一点，可能性与参数的值不同。可能性是给定一组参数估计值的整个模型的可能性。它的计算方法是采用一组参数估计，计算每个参数的概率密度，然后将所有观测值的概率密度相乘（这源于概率论，即 P(A 和 B) = P(A)P( B）如果A和B是独立的）。在实践中，这对于线性回归意味着什么以及该推导表明的是，您采用一组参数估计值（beta，sd），将它们插入到正常的 pdf 中，然后在该集合中计算每个观测值 y 的密度参数估计。然后，将它们全部相乘。通常，我们选择使用对数似然，因为它更容易计算，因为我们可以求和 (log(a*b) = log(a) + log(b))，而不是相乘，这样计算速度更快。此外，我们倾向于最小化负对数似然（而不是最大化正），因为优化器有时在最小化方面比最大化更好。
为了回答您的第二点，对数似然用于几乎所有内容。这是我们用来查找大量模型的参数估计（最大似然估计）的基本量。对于简单的线性回归，这些估计结果与最小二乘的估计相同，但对于更复杂的模型，最小二乘可能不起作用。它还用于计算 AIC，可用于比较具有相同响应和不同预测变量的模型（但会惩罚参数数量，因为更多参数 = 更好的拟合无论如何）。
【讨论】：