如何确定具有非线性训练集的 NN 的假设函数？答案

【问题标题】：How to decide hypothesis function for NN having non-linear training set?如何确定具有非线性训练集的 NN 的假设函数？
【发布时间】：2012-12-23 09:12:31
【问题描述】：

我们有 4 个彼此非线性相关的数字输入。我们的目标是使用反向传播模型来预测输出。我们正在成像的场景如下，

据我们所知（我们没有深入了解），我们正在考虑计算任何神经元的输出（Y）的方程是，

        Y  =  w1 * X1  + w2 * X2 + w3 * X3 + w4  * X4 ?

在哪里，
Y 是输出 X 是输入（X1,X2,X3,X4） w是重量

所以在输出层，如果 output(Y) 与预期不同，我们将使用纠错来修改权重。

非线性数据集是否需要有特定的输出函数（假设函数）？或者上面的功能可以用吗？

【问题讨论】：

【解决方案1】：

这是一种用数学思考的好方法，但我不能同意你上面列出的公式。

对于隐藏神经元 1 (HN1)，其输入 (inputHN1) 为 w11*X1 + w21*X2 + w31*X3 + w41*X4;输出是 f(inputHN1)。请注意，f() 可以是非线性函数（也可以是线性函数）。

对于 HN2，我们有 f(inputHN2)

Y = beta1*f(inputHN1) + beta2*f(inputHN2)

MLP 的权重（w 和 beta）将通过反向传播进行训练。

您会看到，如果f() 是非线性的，那么对非线性函数进行建模是完美的。

当然如果f()是线性的，它只能对线性函数给出很好的近似。

好吧，如果您对要建模的内容有先验知识，那么该假设总是有帮助的。例如，除了一阶，您还可以有二阶，例如 X1X2、X1^2 等。

【讨论】：