机器学习回归以支持多变量回归

Question

我有一个约 150 个样本的数据集，其中每个样本有 11 个输入和 3 个输出。我试图建立一个完整的回归模型来接受 11 个输入进行训练以预测 3 个输出问题是训练完整模型的样本太少几乎是不可能的。出于这个原因，我正在尝试回归，例如 python sklearn 中的线性回归。据我所知，大多数回归模型要么支持一个输入来预测一个输出（回归完成后），要么支持多个输入来预测一个输出。

问题：是否有任何类型的回归支持许多输入来预测许多输出。或者可能更适合我需要的任何回归类型。

感谢您的帮助！

Answer 1

您是否考虑过简单地对每个因变量执行单独的线性回归？

此外，您需要确定哪些输入在理论上是显着的（就解释输出的变化而言），然后测试统计显着性以确定哪些应该保留在模型中。

此外，测试多重共线性以确定您是否有在统计上相关且无意中影响输出的变量。然后，依次测试序列相关性（如果数据是时间序列）和异方差性。

您所描述的“垃圾输入，垃圾输出”的方法存在过度拟合的风险 - 因为您似乎没有筛选输入本身与预测输出的相关性。