【发布时间】:2013-04-18 19:55:03
【问题描述】:
我正在尝试为回归制作一个简单的径向基函数网络 (RBFN)。我有一个包含 600 多个样本的 20 维(特征)数据集。我需要最终网络为每个 20 维样本输出 1 个标量值。
注意:刚接触机器学习...感觉我在这里遗漏了一个重要概念。
使用感知器,我们可以训练一个线性网络,直到使用初始样本的一小部分子集将预测误差降至最低。
RBFN 有类似的流程吗?
【问题讨论】:
我正在尝试为回归制作一个简单的径向基函数网络 (RBFN)。我有一个包含 600 多个样本的 20 维(特征)数据集。我需要最终网络为每个 20 维样本输出 1 个标量值。
注意:刚接触机器学习...感觉我在这里遗漏了一个重要概念。
使用感知器,我们可以训练一个线性网络,直到使用初始样本的一小部分子集将预测误差降至最低。
RBFN 有类似的流程吗?
【问题讨论】:
有,
多层感知器和 RBFN 之间的两个主要区别是,RBFN 通常只暗示一层,并且激活函数是高斯函数而不是 sigmoid。
训练阶段可以使用误差损失函数的梯度下降来完成,所以实现起来比较简单。
请记住,RBFN 是 RBF 单元的线性组合,因此输出的范围是有限的,如果您需要超出该范围的标量,则需要对其进行转换。
您可以参考一些资源:
[PDF] (http://scholar.lib.vt.edu/theses/available/etd-6197-223641/unrestricted/Ch3.pdf)
[维基百科] (http://en.wikipedia.org/wiki/Radial_basis_function_network)
[Wolfram] (http://reference.wolfram.com/applications/neuralnetworks/NeuralNetworkTheory/2.5.2.html)
希望对你有帮助,
【讨论】: