文章目录
黑塞矩阵与多元函数的极值
一元函数求极值,例如函数:
通常先求其一阶导数,根据费马定理极值点处的一阶导数一定等于0。但这仅仅是一个必要条件而非充分条件。对于f(x)=x2 来说,函数的确在一阶导数为0点取得了极值,但对于f(x)=x3 来说,显然只检查一阶导数是不能下此结论的。
这时需要再求一次导,如果二阶导数f’’ (x)<0,那么说明函数在该点取得局部极大值;如果二阶导数f’’ (x)>0,则说明函数在该点取得局部极小值;如果f’’ (x)=0,则结果仍然是不确定的,就不得不通过其它方式来确定函数的极值性。
如果要在多元函数中求极值点,方法与此类似,。以f=f(x,y,z)来作为示例。首先,对于函数中的每个变量分别求偏导数,这时可知函数的极值点可能出现在哪里,即
接下来,需要继续求二阶导数,此时包含混合偏导数的情况一共有9个,如果用矩阵形式来表示,则可得到
这个矩阵就称为黑塞矩阵(Hessian)。当然上面给出的仅仅是一个三阶的Hessian矩阵。其它的海塞矩阵与此类似。
当一元函数的二阶导数等于0时,并不能确定函数在该点的极值性。类似的,面对Hessian矩阵,仍然存在无法判定多元函数极值性的情况,即当Hessian矩阵的行列式为0时,无法确定函数是否能取得极值。甚至可能会得到一个鞍点,也就是一个即非极大值也非极小值的点。
基于Hessian矩阵,可以判断多元函数的极值情况,结论如下:
(1)如果是正定矩阵,则临界点处是一个局部极小值
(2)如果是负定矩阵,则临界点处是一个局部极大值
(3)如果是不定矩阵,则临界点处不是极值
如何判断一个矩阵是否是正定的,负定的,还是不定的。一个最常用的方法就是借助其顺序主子式。