softmax函数是一个多维映射函数,将n维的向量映射到另一个n维的向量。
比如,将[1, 2, 3, 4, 1, 2, 3]映射到[0.024, 0.064, 0.175, 0.475, 0.024, 0.064, 0.175],这几个数加起来等于1,可以把它当成概率
可以用于多分类问题,每个数字就是某一类的概率
公式
设一个向量S为[S1,S2,...,SN][S1,S2,...,SN]
用softmax可以把它映射到一个新的向量[P1,P2,...,PN][P1,P2,...,PN],映射关系如下:
Pk=exp(Sk)∑Nk=1exp(Sk)Pk=exp(Sk)∑k=1Nexp(Sk)
举例
如图所示,最后输出的ans就是softmax映射结果,其计算是e的一次方,e的二次方,e的三次方,e的四次方,以此类推,然后相加求和,然后每一个值除以和。
softmax函数基本用与分类的左后一层,它可以给不同的对象分配不同的概率。