感知机对偶形式 梯度下降法的推导过程

在感知机的原始形式中，模型为：

 对应的梯度下降法的偏导公式为：

 在感知机的对偶形式中，模型演变为：

 感知机的对偶模型，实际是把原始模型中的w,b展开为：

 对应的梯度下降法的偏导公式中的w则演变为：

对以上公式进一步简化：

1. 由于使用的是随机梯度下降法，假设误分类集合M中只有一个点(xj​,yj​)，xi与yi不会发生变化，所以变化的只有ai
2. 公式（4）左右两边都去掉yi、xi，得到 

 公式（3）中的b更新方式不变，与公式（5）结合，得：