在读文章之前,先读Logistic回归,Logistic回归是Softmax回归的特殊情况,即二分类情况。
softmax函数的本质就是将一个K维的任意实数向量压缩(映射)成另一个K维的实数向量,其中向量中的每个元素取值都介于(0,1)之间。
softmax的回归函数是:Softmax回归---多分类问题
写成矩阵的形式如下:
Softmax回归---多分类问题
最后实际求的是:Softmax回归---多分类问题
softmax的损失函数为:
Softmax回归---多分类问题
用梯度下降法求解,对seta求偏导如下。
Softmax回归---多分类问题
seta的迭代公式是:
Softmax回归---多分类问题

相关文章: