Fast Coding Unit Size Selection for HEVC based on Bayesian Decision Rule
《HEVC标准介绍、HEVC帧间预测论文笔记》系列博客，目录见：http://www.cnblogs.com/DwyaneTalk/p/5711333.html
2012 Picture Coding Symposium May 7-9, 2012
以最小决策代价来进行贝叶斯决策，判断对于当前CU是否进行四叉树划分。代价是RD值，每个块选取3个值作为特征。
核心公式：
W是决策分类， 分别表示划分和不划分。
（1）
（1）式为naïve bayes的公式，、
、
依次是类条件、先验和后验（似然）概率。
（2）
（2）表示决策代价，表示应该决策为Ws而实际是Wn的代价，其他类似。
（3）、（4）式为最终的决策表达式。决策如下：
对于特征F，可以表示图像的特征很多，算法中从下面6个中间选择3个：
A、fvar ：The variance of mode Inter_2Nx2N prediction errors in current CU
B、fsatd：The sum of absolute transformed difference (SATD) between original and prediction of mode Inter_2Nx2N
C、fvsatd ：The variance of 4 SATDs (The prediction errors of mode Inter_2Nx2N is split into 4 sub-squares and calculate SATD on each sub-square)
D、fmvg：MV magnitude（就是MV的模）
E、fp：Percentage of coefficients cost in RD cost。就是中拉格朗日系数lamda
F、frdc：RD cost of mode Inter_2Nx2N
从A~F的6个特征中选择3个，是通过贪心的sequential forward selection (SFS) algorithm 来选择使互信息量MI最大的3个特征f。
I(F:W)就是互信息量MI。在5个1080p的测试序列上，计算不同f的MI如下表：
根据表格可以看出，最优的三个特征是fvar、fp和fvsatd。所以最终选择这三个组成决策表达式中的F。
fvar、fp和fvsatd都量化成10个取值，所以F有1000个取值，相应有2000个取值，所以
是通过特定的方法进行off-line估计，然后存在查找表(LUT)中。
则是一个和QP、图像分辨率、CU划分深度等有关的判断阈值。通过测试2个1080p和2个WVGA的视频序列，计算其中的
值，然后保存在另一个LUT里。
算法流程：
算法简述：
1、Initialize Bayesian threshold in (6) with the QP and resolution settings.
2、RDO process starts from one LCU with CU_depth=0;
3、For the current CU_depth, try mode Inter_2Nx2N, and calculate the feature vector F=[f
var, fp, fvsatd] online;
4、For a feature F, find the class-conditional probability according to pdf p(F|wi) i∈{N, S} in the LUT. Make a decision according to (6). If the Non-SPLIT decision is made, proceed to step 5); otherwise, set CU_depth as CU_depth+1, and then return back to step 3) to perform the RDO process of the four sub-CU;
5、Perform RDO on mode Inter_2NxN, Inter_Nx2N and Intra_2Nx2N (Inter_NxN and Intra_NxN) to decide the optimal mode of the current CU.
6、Exit the RDO process and encode the LCU.
实验结果：(HM4.0rc1，4个测试序列，Rand Access和Low Delay两种HM的configuration)