线性模型

分类示例

图像分类

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 垃圾邮件过滤

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 文档归类

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 情感分类

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 举例:文本分类 词袋模型

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 线性分类模型

线性模型 决策边界都是线性

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 logistic 回归

将分类问题看作条件概率估计问题

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 logistic函数 sigmoid函数

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 学习准则

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 提前知识:熵 Entropy 交叉熵 Cross Entropy

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 交叉熵 Cross Entropy

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

KL散度 Kullback-Leibler Divergence

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 交叉熵损失 P_r(y|x)为确定 可以消掉

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 优化

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 多分类问题 argmax

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 softmax回归

多分类问题

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 交叉熵损失:KL散度

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

 参数学习

邱锡鹏 神经网络与深度学习课程【四】——线性模型1和2

相关文章: