原理

首先,PLA修正过程的数学表示:
在一个循环中,t代表当前的迭代次数
1. 找到一个错误分类的点(xt,yt):
sign(wtTxn(t))yn(t)
2. 修正该错误
Wt+1Wt+yn(t)xn(t)
重复循环,直到没有错误分类的点存在

图解

说明:用权重W来代表一个假设

刚开始的时候,在一个二维的坐标上将所有点画出来:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)
1. 随机选择一个权重W0 来对点分类:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)
2. 对错误分类的点修正:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)
3. 通过循环,不断的完成修正:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)
4. 最终会完成分类:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)

总结

虽然老师在视频中并没有讲具体是怎么分类的(反正我当时听不懂……),后来仔细研究才懂得图中各个部分所代表的意思。

蓝色线段:目前迭代次数的权重W所代表的直线
黑色点:错误分类点
红色线段:上一次迭代的权重所代表的直线
决策边界:与权重W直线垂直,这是真正决定点类别的直线

最后,感知机学习算法的更新过程的依据是线性代数中的矩阵运算规则

相关文章: