感知机的梯度推导

一、单层感知机（Perceptron）

　　1、定义：多个输入直接加权求和后，得到一个输出节点，经过激活函数，得到一个值

　　

　　2、单层感知机求导

 　　

 　　导数结果，只与激活函数 O₀  和 输入节点 x_j 有关

　　3、pytorch中实现单层感知机

　　

 二、多层感知机

　　

 　　多层感知机求导：

　　

 　　多层感知机pytorch的实现：