1.SVM的应用场景
SVM既可以用于线性分类也可以用于非线性分类,这主要取决于和函数的选取。在已知样本很少的情况下,获得很好的分类效果。
2.SVM的原理简单概括:
SVM是一种优化的分类算法,它可以寻找到一个最佳的决策边界(决策超平面),使得决策边界与各组数据之间存在margin,并且需要使各侧的margin最大化。
3.支持向量
支持向量(support vector)是SVM中起到支持作用的重要样本,即离决策平面最近的样本点。
4.松弛变量
加入松弛变量的原因是为了克服噪声。使得SVM受噪声点的影响减少了,可以得到较好的决策超平面。
5.SVM的亮点
SVM最有启发性的突破是将低维空间线性不可分问题转化为高维空间线性可分问题,比如数据在二维空间不可分,转化到三维下,就可以得到一个线性可分面,如下图所示:
虽然数据映射到高维后会增加求解的复杂度,但是SVM可以将这些计算转化为内积形式,大大降低了计算难度。
SVM中使用了核函数来惊醒数据映射。
6.SVM求解超平面
SVM采用拉格朗日法求解最佳决策边界。