EM算法-Jensen不等式

凸函数定义：

设是定义在区间 = [a, b]上的实值函数。如果对于任意的和，下列式子成立，则称是上的凸函数。

                                                   

如果上述不等式为小于，则为严格凸。

图示：

 

【定理】Jensen不等式

设是定义在区间 = [a, b]上的实值函数。对于任意的， 下列不等式恒成立，

                                                    

证明：

当n=1和2时，明显成立。

接下来利用数学归纳法进一步证明。假设对于某个n来说，上述定理成立，则对于n+1来说

                         

证明完毕。