参数估计(parameter estimation)
参数估计属于统计推断的范畴，是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。
统计推断是数理统计研究的核心问题，是指根据样本对总体分布或分布的数字特征等作出合理的推断。
参数估计分为：点估计、区间估计
点估计（point estimation）
点估计是依据样本估计总体分布中所含的未知参数或未知参数的函数。通常它们是总体的某个特征值，如数学期望、方差和相关系数等。点估计问题就是要构造一个只依赖于样本的量，作为未知参数或未知参数的函数的估计值。例如，设一批产品的废品率为θ。为估计θ，从这批产品中随机地抽出n 个作检查，以X记其中的废品个数，用X/n估计θ，这就是一个点估计。
构造点估计常用方法：
- 矩估计法：用样本矩估计总体矩，比如：用样本均值估计总体均值。
- 最大似然估计法：于1912年由英国统计学家R.A.费希尔提出，利用样本分布密度构造似然函数来求出参数的最大似然估计。
- 最小二乘法：主要用于线性统计模型中的参数估计问题。比如：Y=a0+a1X的参数估计就可以用最小乘法。
- 贝叶斯估计法：基于贝叶斯学派的观点而提出的估计法。可以用来估计未知参数的估计量很多，于是产生了怎样选择一个优良估计量的问题。首先必须对优良性定出准则，这种准则是不唯一的，可以根据实际问题和理论研究的方便进行选择。优良性准则有两大类:一类是小样本准则，即在样本大小固定时的优良性准则;另一类是大样本准则，即在样本大小趋于无穷时的优良性准则。最重要的小样本优良性准则是无偏性及与此相关的一致最小方差无偏估计，其次有容许性准则， 最小化最大准则，最优同变准则等。大样本优良性准则有相合性、最优渐近正态估计和渐近有效估计等。
点估计能够明确告知人们“未知参数是多少”，但不能反映估计的可信程度。
矩估计法（method of moments）,
矩估计法也称"矩法估计"，原理是用样本矩作为相应的总体矩估计来求出估计量的方法，其思想是如果总体中有 K个未知参数，可以用前 K阶样本矩估计相应的前k阶总体矩，然后利用未知参数与总体矩的函数关系，求出参数的估计量。
矩法估计一般求的是一阶原点矩和二阶中心矩。
假设总体X的k阶原点矩：
令总体的k阶原点矩等于它样本的k阶原点矩
注：矩法相比于极大似然法、最小二乘法，效率很低。目前很少使用。
区间估计（interval estimation）
区间估计是依据抽取的样本，根据一定的正确度与精确度的要求，构造出适当的区间，作为总体分布 的未知参数或参数的函数的真值所在范围的估计。例如人们常说的有百分之多少的把握保证某值在某个范围内，即是区间估计的最简单的应用。
求置信区间常用的三种方法:
- 利用已知的抽样分布。
- 利用区间估计与假设检验的联系。
- 利用大样本理论。
区间估计可以告知置信区间范围，但不能直接告知人们“未知参数是多少”。
继续学习中，未完待续。。。