转载于http://blog.csdn.net/panda07100/article/details/38580993

对于a XOR b ,其真值表为:

a b y
0
0
1
1
0
1
0
1
0
1
1
0


从数据集线性可分性的角度证明XOR逻辑是非线性的:

设数据集T为:
    证:单层感知机不能表示异或逻辑

其中:
    证:单层感知机不能表示异或逻辑
假设T是线性可分的,则存在超平面证:单层感知机不能表示异或逻辑对T中的4个实例正确分类

  证:单层感知机不能表示异或逻辑
注:这里的大于小于零与y的取值无关,它与参考系有关,表示两个类别,所以也并不要求y的取值是正1和负1.

证:单层感知机不能表示异或逻辑
对上式进行化简
  证:单层感知机不能表示异或逻辑
四个式子相互之间是矛盾的,所以异或逻辑是非线性问题,得证。
 另外,感知机的学习策咯是极小化误分类点到超平面S的总距离,即经验风险最小化。对于线性不可分数据集,由于总是存在误分类点,算法将不能够收敛。事实上,最后的迭代(随机梯度下降)将发生震荡,证明过程见Novikoff定理。
 证:单层感知机不能表示异或逻辑
异或逻辑图像
证:单层感知机不能表示异或逻辑
综上所述:单层感知机不能表示异或逻辑。

参考资料:《统计学习方法》 李航

相关文章:

  • 2021-11-21
  • 2021-05-21
  • 2021-04-25
  • 2021-11-19
  • 2022-12-23
  • 2022-02-08
  • 2022-01-07
  • 2021-08-04
猜你喜欢
  • 2021-05-02
  • 2021-10-24
  • 2021-09-27
  • 2022-12-23
  • 2021-08-09
  • 2021-08-05
  • 2022-12-23
相关资源
相似解决方案