炼数成金--支持向量机 笔记

支持向量、支持平面。

炼数成金--支持向量机 笔记

炼数成金--支持向量机 笔记

要求d的极大值(即两个分离平面之间的距离最大),d最大则对应w极小,但是w的范式计算时带有根号,不方便,于是转为求w的平方极小。此时,转换为凸优化问题。

炼数成金--支持向量机 笔记

炼数成金--支持向量机 笔记

所以上述是一个凸优化问题,接下来应用拉格朗日乘子法(严格来说,叫KKT条件法)。

炼数成金--支持向量机 笔记

上面的问题为什么可以转化为拉格朗日乘子法呢?

炼数成金--支持向量机 笔记

相切点的几何意义:红线与蓝线的梯度在同一直线上。约束函数g,目标函数f。

炼数成金--支持向量机 笔记

结合公式发现,最后的解就是要满足两个函数的梯度方向相反,在同一条直线上。

严格的拉格朗日乘子法要求约束条件为等号,但是本问题中为不等号,所以是KKT条件。

炼数成金--支持向量机 笔记

可以理解为KKT条件是拉格朗日乘子法在不等式条件下的一种推广。

炼数成金--支持向量机 笔记

炼数成金--支持向量机 笔记

由于是不等式条件,所以目前还不能够求解,但是可以继续往前走——尝试将b和w消掉,得到新的拉格朗日函数。所以变成了求拉格朗日函数的系数问题,称为原拉格朗日问题的对偶问题。
  回顾思路,首先我们把一个求解直观几何问题变成了求解一个凸优化问题,凸优化问题通过KKT条件变成拉格朗日问题,把偏导数等于0代进去,变成了一个拉格朗日乘子问题的对偶问题。对偶问题的形式整洁,且后半个公式是一个内积,有助于往非线性条件下推广的核函数。

炼数成金--支持向量机 笔记

简化后,对偶公式简单了,但是约束条件变多了。

炼数成金--支持向量机 笔记
炼数成金--支持向量机 笔记
炼数成金--支持向量机 笔记
炼数成金--支持向量机 笔记
这个对偶问题采用SMO算法求解。
炼数成金--支持向量机 笔记
炼数成金--支持向量机 笔记
 

 

 

相关文章: