discriminate、generative、conditional generative模型

discriminate model：输入图片x和label y，学习概率。结果需要归一化也就是说各种类别的概率需要相互竞争，之和为1.
generative model：输入为图片x，学习分布。
conditional generative model：输入为图片x和label y，可以理解为是一种generative model但是带label。

generative model产生的原因：一个例子比如预测人脸下一帧的动作，因为下一帧的动作可以是任意方向，所以使用CNN预测将取一个均值，结果就会模糊，如果使用generative model，就会从任意方向中选择一个方向的分布。

三种模型间的区别与联系

generative model可以区分训练集中不存在的图片也就是说，当输入为训练集中不存在的图片时，输出的概率会很低。而discriminate model中，因为结果是归一化的，所以总会有一个概率值比较高。
根据贝叶斯规则，三种模型相互转化：

prior over labels代表训练集中的图片label出现的次数。