目录
心得
很多东西理解的很浮浅,基础不扎实
越往上则数学越重要,最后就是到了算法和数学
编程只是工具,抓住重点
优化一般的分为有约束和无约束的
什么是凸优化为什么又需要凸优化
为什么要做优化
无解,但我希望有一个近似解,大致相等还不错的解就可以,能满足工程的应用就好了
这样就转化成了最优化问题
工程中最关键的一步是能转化为优化问题
无限制优化问题
contour等直线或等高线
中心是函数的最小值
局部是指在个特定的领域
拐点,即就是最大值也不是最小值,但其一阶导数为0
梯度和海森矩阵
无约束优化直接分析法的局限
直接不可导,但导数只是可求解的必要条件
函数能求导,但变量太多,高度非线性,导数为零的变量不好求
解可能是集合,在其中找最大还是最 小值比较困难
无限制优化迭代法(大统一论)
主要不同在第二步探索方向如梯度下降、牛顿下山等
深度下降法
牛顿法
一般限制优化问题
一般限制优化问题极值点一阶必要条件KKT
凸集和凸函数基础
为什么要凸优化
KKT是局部最小解的必要条件
凸集
任意取两点连线在集合内
凸优化问题其可行域必须是凸集
常见的凸集
凸函数
弦在两点函数之上
左边是凸函数但不是严格的
中间是
凸函数的一阶二阶条件
常见的凸函数
凸函数和凸集的关系
凸优化问题标准形式
则是凸优化问题
hi(x)=0等式约束的要求是aTx - b = 0,即线性函数
简单的可以用kkt充要条件,内点法,牛顿法
实际问题中凸优化