向量线性回归答案

【问题标题】：Vectors linear regression向量线性回归
【发布时间】：2021-05-07 16:21:55
【问题描述】：

我有两个向量：

X - 通用维度 N 的输入向量

Y - 与X (N)

维数相同的输出向量

这些向量通过以下方式相关：

Y = FX

其中F是一个线性变换，但它是未知的。潜在地，我可以构建一个包含大量 X 和 Y 的数据集。有没有办法通过线性回归/神经网络找到F？向量大小尚未定义，但相当大（超过 1000 个元素）。

谁能帮我找到一些关于如何使用机器学习解决这个问题的参考资料？我已经寻找过多元线性回归，但它指向的是多变量而不是向量。

【问题讨论】：

标签： python machine-learning neural-network linear-regression

【解决方案1】：

据我所知

Y = AX + epsilon（正态分布的 epsilon）

正是线性回归的方程。 Epsilon 主要代表经验收集数据的测量误差。

所以我认为这应该通过线性回归来解决

https://heartbeat.fritz.ai/implementing-multiple-linear-regression-using-sklearn-43b3d3f2fe8b

【讨论】：

链接指的是具有更多特征和标量输出的线性回归。不知道sklearn库能不能适配向量变量？输入和输出。
在这种情况下，当涉及到描述方程时，您实际上是在谈论矩阵输入（N 维解释变量的 n 个实例）和矩阵输出（N 维的 n 个观察值）。我不认为 sklearn 可以适应这一点，因为我没有在我读过的任何书籍中看到这个案例讨论过这个问题。我认为你最好的选择是明智地处理这个问题。 IE。 Y 的每个分量的线性回归。

【解决方案2】：

我认为您的问题比您想的要简单得多。你有一个线性回归问题，只观察到一个特征（如果我理解正确的话）。它是线性的，因为正如你所说，F 是一个线性函数，所以你不需要求助于神经网络来估计它。

假设向量是列，您正在寻找的估计值 F 只是 Y/(X^TY)。如果您需要证明这一点，一般情况下的详细解决方案（您有多个特征，因此 X 是一个矩阵），您可以查看Understanding Machine Learning - From Theory to Algorithms，第 123-125 页。

【讨论】：