神经元
人工神经网络与生物神经网络相似,都是由大量神经元组成,其中神经元又被称之为神经细胞,都具有细胞体、胞体、树突以及轴突等。
轴突和树突是神经元的突起,在神经元之间传递的是电信号,神经元的功能是接受信号并对其作出迅速反应、传导兴奋等。
当神经元之间相互连接,当某一个神经元处于兴奋 状态时,其相连神经元的电位将发生改变,若神经元电位改变超过一定的数值时,则相连的神经元被**并处于兴奋状态,向下一级连接的神经元继续传递电位改变信息。信息从一个神经元一电传导的方式跨过之间的链接,传给另一个神经元,最终使肌肉收缩或分泌液体。
神经元就是一个多个输入、输出的信息处理单元,并且对信息的处理是非线性的。
1943年McCulloch 和Pitts提出MP模型,由固定权值和权重组成,是一种基于阈值逻辑算法的神经网络计算模型
在MP模型中,某个神经元接受来自其余多个神经元的传递信息号,多个输入与对应连接权重相乘后并对其求合,再与神经元预设的阈值进行比较,最后通过**函数产生神经元输出。每个神经元具有空间整合特性和阈值特性。
感知机
感知机是由Frank Rosenblatt在1957年提出的模型,与MP类似。
一般感知机指单层人工神经网络,以区别与多层感知机,其主要结构如下图所示:
假设有一个n维输入的单层感知机,x1到xn为n维输入向量的各个分量,w1到wn为各个输入分量连接到感知机的权重,θ为阈值,f为**函数,y为标量输出。理想的**函数f(.) 通常为阶跃函数或sigmoid函数。感知机的输出是输入向量x与权重向量的W求得内积 后,经**函数f所得到的标量 :
为了得到更好的拟合输出结果,权重W的初始值一般为随机值。通过计算得到的输出值,然后将实际输出值和理论值输出值做差,以此来调整每一个输出值的权值。学校规则是用来计算新的权值矩阵W及新的偏差B的算法。