[阅读笔记]《统计学习方法》李航著：Chp2 感知机

[阅读笔记] 《统计学习方法》李航著：Chp2 感知机 perceptron

本章概要

2.1 感知机模型

• 属于判别模型

2.2 感知机学习策略

• 感知机学习的目标是求得一个能够将训练集完全正确分类的分离超平面
• 为了达到上述目标，学习的策略是定义经验损失函数并将损失函数极小化
• 感知机学习中采用的损失函数为：误分类点到超平面S的总距离

2.3 感知机学习算法

• 原始形式采用随机梯度下降法(stochastic gradient descent)求解，即一次随机选取一个误分类点使其梯度下降
• 该学习算法采用不同初值或选取不同的误分类点时产生的解可能不同
• 原始形式转换为对偶形式就是将学习ω$\omega$转换为学习构成ω$\omega$的实例的影响系数α$\alpha$
• Gram矩阵存储的是实例间的内积计算结果