多元最小化/拟合结果的置信区间答案

【问题标题】：Confidence interval for result of multivariate minimization/fitting多元最小化/拟合结果的置信区间
【发布时间】：2019-09-15 00:44:01
【问题描述】：

我有一组观察结果 [x(t), y(t)]，我尝试将其拟合到某个假设：x=Fx(ax, bx, t), y=Fy(ay, by, t)。 Fx 和 Fy 是线性的，但观测的噪声明显不是高斯的。

为此，我执行自定义编写的函数 F(ax, bx, ay, by, [observations]) 的最小化。我使用 scipy.optimize.minimize ，并通过最小化给定观察集的 F 来获取参数 ax、bx、ay 的值。

问题 1：我如何估计这些结果的 95% 置信区域，以便我可以看到答案是多么模糊或可靠？

我认为参数的值不是独立的，因此置信区域可能不是 4 矩形，而是在最小点周围的解空间中的一些斑点。

问题 2：如果我将假设简化为线性形式：x=axt + bx, y=ayt + by，观察噪声为 2d 高斯，是否有任何现成的例程python 通过计算结果的置信区间来进行拟合？

【问题讨论】：

【解决方案1】：

Lampton、Margon 和 Bowyer，1976 年，《天体物理学杂志》，第 208、177 页

【讨论】：

【解决方案2】：

一般情况下，当测量误差的分布未知时，您可以使用重采样方法。例如，随机抽取 90% 的测量值并找到估计，使用原始测量的不同随机子样本重复以下过程 100 次（或更多）。将所有获得的估计值存储在数组中。现在，您可以为每个估计找到 95%（或任何您想要的）。这将是估计的 95% 置信区间。

如果是线性模型和高斯噪声，我建议寻找实现卡尔曼滤波器的软件包。它们肯定存在，例如pykalman.

【讨论】：