贝叶斯决策论是解决模式分类问题的一种基本统计途径。其假设：决策问题可以用概率的形式来描述，并且所有有关的概率结构均已知。现对其进行一下简单的总结。
贝叶斯决策准则
按照不同决策标准，会得到不同意义下的最优决策。
最小错误率准则
最小风险准则
最小最大决策准则
Neyman-Pearson准则
最小错误率准则
若样本。
则得到误差概率如下：
我们希望平均误差概率最小，
对任意的则会尽量地小。
此时
因此，得到了最小误差率下的贝叶斯决策准则：如果.
根据条件概率，可以将上式转换为.
上式也可变为。
最小风险准则
考虑各种错误造成损失不同而提出的决策规则。
定义风险函数d的风险。
定义某一样本时的风险（损失）：
则所有样本采取完某行为后的总风险：
要使得总风险最小，则需要每个样本采取的行为风险最小。
贝叶斯决策规则：每个样本的行为风险最小。
极小化极大准则
消除先验概率的影响。先验概率取任意的值时，我们想办法使其总风险最坏的情况尽可能地小。在最差的添加下，争取最好的结果，使最大风险最小。
举例子：二分类问题。
设时所引起的损失。
将条件
以及带入上式，整理得到：
上式表明，一旦判决边界的比例系数为0，则总风险与先验概率相互独立，互不影响。
令，称其为极小化极大风险
简单地说，我们寻找使得贝叶斯风险最大的先验概率，相应的决策边界给出了极小化极大决策结果，因此极小化极大风险值等于最坏的贝叶斯风险。
极小化极大准则，常用于“博弈论”中。
Neyman-Pearson准则
损失函数无法确定；先验概率未知，是一个确定的值；某一种错误较另一种错误更为重要。
需要用Lagrange乘子法求条件极值。
例如，在限定类错误率最小,
（对分类边界求最小）
s.t.
用lagrange乘子法：
为了求极值点，求偏导数，并令其为0.
Neyman-Pearson决策准则：
若
若
分类器的设计
基于最小误差概率的贝叶斯分类器
基于最小总风险的贝叶斯分类器
多类别判别函数
若求解决策面，。
小结
贝叶斯决策论是基于概率论的决策，根据不同决策准则，分别得到不同决策意义下的最优判断。