统计学习
MLE（极大似然估计）
极大似然方法
基本概念
- 概率分布
用表示一个概率分布，
是该分布的参数。例如，抛掷硬币的概率分布为：
- 样本
从概率分布中产生的数据称为样本，是从该分布中产生的n个样本。
- 离散/连续分布
当x取离散值时，称变量x的分布为离散分布；取连续值时，则称为连续分布。 - 离散/连续参数
当取离散值时，称
为离散参数；取连续值时，称
是连续参数。
- 极大似然方法
离散分布-离散有限参数
离散分布-连续分布
连续分布-连续参数
最大后验估计MAP
概述
- 数据集
- 先验概率分布
- 似然函数
- 后验概率分布
- 定义
通过求解后验概率最大值来推断未知参数的方法称为最大后验法。