约束非线性优化：几何意义&对偶形式

借助老师的PPT对约束非线性优化问题的几何意义和对偶形式进行阐述。

一、几何意义

（1）等式约束

考虑只有等式约束h(x)的非线性优化问题，形式为：

 可视化结果如下图所示，红色曲线为等式约束，环线为目标函数等值面。达到最优解x*时，必定可以在此处借助Lagrange乘子完成梯度合成。

 （2）不等式约束

 约束条件换成不等式，此处只考虑一般形式的>=0约束：

 Lagrange函数为：

 可视化结果为：

 在最优解处完成了梯度合成，并且众多不等式约束满足互补松弛条件，即其中有一个必为0。