支持向量、支持平面。
要求d的极大值(即两个分离平面之间的距离最大),d最大则对应w极小,但是w的范式计算时带有根号,不方便,于是转为求w的平方极小。此时,转换为凸优化问题。
所以上述是一个凸优化问题,接下来应用拉格朗日乘子法(严格来说,叫KKT条件法)。
上面的问题为什么可以转化为拉格朗日乘子法呢?
相切点的几何意义:红线与蓝线的梯度在同一直线上。约束函数g,目标函数f。
结合公式发现,最后的解就是要满足两个函数的梯度方向相反,在同一条直线上。
严格的拉格朗日乘子法要求约束条件为等号,但是本问题中为不等号,所以是KKT条件。
可以理解为KKT条件是拉格朗日乘子法在不等式条件下的一种推广。
由于是不等式条件,所以目前还不能够求解,但是可以继续往前走——尝试将b和w消掉,得到新的拉格朗日函数。所以变成了求拉格朗日函数的系数问题,称为原拉格朗日问题的对偶问题。
回顾思路,首先我们把一个求解直观几何问题变成了求解一个凸优化问题,凸优化问题通过KKT条件变成拉格朗日问题,把偏导数等于0代进去,变成了一个拉格朗日乘子问题的对偶问题。对偶问题的形式整洁,且后半个公式是一个内积,有助于往非线性条件下推广的核函数。
简化后,对偶公式简单了,但是约束条件变多了。
这个对偶问题采用SMO算法求解。