神经网络的“ 学习” 是指从训练数据中自动获取最优权重参数的过程。神经网络的特征就是可以 从数据中学习。 所谓“ 从 数据中学习”, 是指可以由数据自动决定权重参数的值。此时如何学习到权重参数,这就涉及到权重更新算法。这里给出一般性权重更新算法

  • 最新权重 WjW' _{(j)} = WjW_{(j)} + Wj\nabla W_{(j)}WjW_{(j)}为旧权重

  • 其中 Wj\nabla W_{(j)} 为 权重更新值

  • Wj\nabla W_{(j)}= η(yy)\eta (y-y') * X(j)X_{(j)}

  • 其中 η\eta 是学习率,往往是[0,1]间的小数

  • y 输入样本的正确分类,y’是感知器计算出来的分类

  • 感知器算法权重参数更新流程
    感知器(二) 权重更新算法

相关文章: