线性回归模型适⽤于输出为连续值的情景,在另⼀类情景中,模型输出可以是⼀个像图像类别这样的离散值。对于这样的离散值预测问题,我们可以使⽤诸如softmax回归在内的分类模型。和线性回归不同,softmax回归的输出单元从⼀个变成了多个,且引⼊了softmax运算使输出更适合离散值的预测和训练。本节以softmax回归模型为例,介绍神经⽹络中的分类模型。
1、 softmax回归模型
softmax通过下式将离散输出值变换成正的且和为1的概率值。
总结:softmax一般是用于分类模型的输出的最后一层
2、 交叉熵损失函数