高斯分布

简单点可以把高斯分布当作一个 function,输入就是一个向量 x ,输出就是选中 x 的概率(实际上高斯分布不等于概率,只是和概率成正比,这里简单说成概率)。 function由期望 μ 和协方差矩阵 ∑ 决定。上图的例子是说同样的 ∑,不同的 μ ,概率分布的最高点的位置是不同的。下图的例子是同样的 μ,不同的 ∑,概率分布的最高点是一样的,但是离散度是不一样的。

最大似然估计

李宏毅机器学习-分类

计算方式

李宏毅机器学习-分类

完成分类

李宏毅机器学习-分类

修改模型

通常来说,不会给每个高斯分布都计算出一套不同的最大似然估计,协方差矩阵是和输入feature大小的平方成正比,所以当feature很大的时候,协方差矩阵是可以增长很快的。此时考虑到model参数过多,容易Overfitting为了有效减少参数,给描述这两个类别的高斯分布相同的协方差矩阵
李宏毅机器学习-分类
共用之后准确度上升,为啥是直线了????
李宏毅机器学习-分类

建模三步骤

李宏毅机器学习-分类
对于二元分类来说,此时用通常不会用高斯分布,可以假设是符合 Bernoulli distribution(伯努利分布)。

假设所有的feature都是相互独立产生的,这种分类叫做 Naive Bayes Classifier(朴素贝叶斯分类器)
李宏毅机器学习-分类

相关文章:

  • 2021-11-19
  • 2021-11-03
  • 2021-05-04
  • 2021-07-15
  • 2021-12-11
  • 2021-04-05
  • 2021-12-01
猜你喜欢
  • 2021-08-01
  • 2021-06-06
  • 2021-11-16
  • 2021-10-08
  • 2021-08-08
  • 2021-05-25
相关资源
相似解决方案