线性回归模型适⽤于输出为连续值的情景,在另⼀类情景中,模型输出可以是⼀个像图像类别这样的离散值。对于这样的离散值预测问题,我们可以使⽤诸如softmax回归在内的分类模型。和线性回归不同,softmax回归的输出单元从⼀个变成了多个,且引⼊了softmax运算使输出更适合离散值的预测和训练。本节以softmax回归模型为例,介绍神经⽹络中的分类模型。

1、 softmax回归模型

深度学习基础——softmax回归
softmax通过下式将离散输出值变换成正的且和为1的概率值。
深度学习基础——softmax回归
总结:softmax一般是用于分类模型的输出的最后一层

2、 交叉熵损失函数

深度学习基础——softmax回归
深度学习基础——softmax回归
深度学习基础——softmax回归

相关文章: