李航：统计学习方法 学习笔记 2 感知机三问

李航：统计学习方法 学习笔记 2 感知机三问

• 1. 空间中任意一点x0到超平面S的距离公式推导
• 2. Novikoff 定理中为何可以直接令 $||\hat w_{opt}||=1$∣∣w^opt​∣∣=1 ？
• 3. 感知机学习算法的对偶形式

1. 空间中任意一点x0到超平面S的距离公式推导

参考 空间中任意一点到超平面距离的公式推导。

2. Novikoff 定理中为何可以直接令 $||\hat w_{opt}||=1$∣∣w^opt​∣∣=1 ？

将偏置b并入权重向量w，则有 $\hat w=(w^T, b) ^ T$w^=(wT,b)T ，同样的，$\hat x=(x^T, 1) ^ T$x^=(xT,1)T。显然， $\hat w · \hat x=w·x+b$w^⋅x^=w⋅x+b 。

此时超平面 S 可表示为 $\hat w · \hat x=0$w^⋅x^=0，可以对 $\hat w$w^ 进行单位化，表示的仍是同一个平面。

3. 感知机学习算法的对偶形式

暂时有点模糊，不知如何描述，先记下。