西瓜书打卡 day3——SVM

 

开始SVM之旅~

为了找出最好的分隔线 wx+b=0，即间隔r最大，可顺利推算到：

此为SVM的基本型

添加拉格朗日乘子，可得

求导之后 可得

 

 

KKT条件：https://www.cnblogs.com/liaohuiqiang/p/7805954.html

SMO 解法

SVM 从简单边界分类思路，到复杂的拉格朗日求

其实，对于二次规划问题，有经典的最速下降法，牛顿法等最优化求解方法。而SMO是一个SVM的优化算法，避开了经典的二次规划问题。