神经网络回归 - 考虑动态

Question

我正在使用 Tensorflow 解决具有已知动态分量的回归问题，也就是说，我们知道时间 t 的（单数）标签取决于环境的某些动态状态，但这功能未知。可以理解的是，最初通过简单回归解决问题的尝试失败了，这证实了我们的假设，即我们无法访问的特性存在某种动态影响。

但是，t 时刻的环境状态应该在 t0 时刻已知的特征和标签（尤其是它们的相互作用）中反映某处 -n，其中 n > 0。不幸的是，由于问题的性质，时间 t 的输出严重依赖时间 t 的输入，与环境。我担心这会导致我想尝试的方法无效 - 在我的理解中，时间序列预测会考虑以前时间步的特征，但不会考虑当前时间步的输入。此外，我知道之前时间步长的标签，但不知道我想要做出预测的时间。

这里有一个表格来说明问题：

t	input	output
0	x(t=0)	y(t=0)
...	...	...
t0-1	x(t=t0-1)	y(t=t0-1)
t0	x(t=t0)	y(t=t0)=?

• 如何使用我掌握的所有信息来预测 y(t=t0) 的值，使用 x(t=t0)（其中 x 是输入特征的数组）以及先前时间步长的特征和标签的定义窗口？
• 是否存在解决此类问题的既定方法，可以使用神经网络，甚至可以使用不同的模型？
• 此问题是否需要结合多种方法，如果需要，哪些方法可能适合解决？

最终模型将被部署并继续为未来的时间窗口工作。我们知道相关时间窗口的大小大约是过去 100 个时间步长。

Answer 1

据我所知，我所描述的问题与所谓的外生变量有关。就我而言，我需要一种叫做 NNARX 的东西，它的核心类似于 ARMAX 模型，但（作为神经网络）可以考虑非线性。

一般的想法是引入一个 LSTM 层，作为历史输入的编码器，然后将其耦合到具有外生变量的另一个输入层。两者都在所谓的解码器（NN 架构的其余部分）处耦合。