目录

心得

为什么要做优化

无限制优化问题

梯度和海森矩阵

无约束优化直接分析法的局限

无限制优化迭代法(大统一论)

深度下降法

牛顿法

一般限制优化问题

一般限制优化问题极值点一阶必要条件KKT

凸集和凸函数基础

为什么要凸优化

凸集

常见的凸集

凸函数

凸函数的一阶二阶条件

常见的凸函数

凸函数和凸集的关系

凸优化问题标准形式


心得

七月算法机器学习4 凸优化初步

很多东西理解的很浮浅,基础不扎实

越往上则数学越重要,最后就是到了算法和数学

编程只是工具,抓住重点

优化一般的分为有约束和无约束的

什么是凸优化为什么又需要凸优化

为什么要做优化

七月算法机器学习4 凸优化初步

无解,但我希望有一个近似解,大致相等还不错的解就可以,能满足工程的应用就好了

这样就转化成了最优化问题

工程中最关键的一步是能转化为优化问题

无限制优化问题

七月算法机器学习4 凸优化初步

contour等直线或等高线

中心是函数的最小值

七月算法机器学习4 凸优化初步

局部是指在个特定的领域

拐点,即就是最大值也不是最小值,但其一阶导数为0

梯度和海森矩阵

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

 

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

无约束优化直接分析法的局限

直接不可导,但导数只是可求解的必要条件

函数能求导,但变量太多,高度非线性,导数为零的变量不好求

解可能是集合,在其中找最大还是最 小值比较困难

无限制优化迭代法(大统一论)

七月算法机器学习4 凸优化初步

主要不同在第二步探索方向如梯度下降、牛顿下山等

深度下降法

七月算法机器学习4 凸优化初步

牛顿法

七月算法机器学习4 凸优化初步

一般限制优化问题

七月算法机器学习4 凸优化初步

一般限制优化问题极值点一阶必要条件KKT

七月算法机器学习4 凸优化初步

凸集和凸函数基础

为什么要凸优化

七月算法机器学习4 凸优化初步

KKT是局部最小解的必要条件

凸集

七月算法机器学习4 凸优化初步

任意取两点连线在集合内

凸优化问题其可行域必须是凸集

常见的凸集

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

凸函数

七月算法机器学习4 凸优化初步

弦在两点函数之上

七月算法机器学习4 凸优化初步

左边是凸函数但不是严格的

中间是

凸函数的一阶二阶条件

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

常见的凸函数

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

凸函数和凸集的关系

七月算法机器学习4 凸优化初步

凸优化问题标准形式

七月算法机器学习4 凸优化初步

则是凸优化问题

hi(x)=0等式约束的要求是aTx - b = 0,即线性函数

简单的可以用kkt充要条件,内点法,牛顿法

实际问题中凸优化

七月算法机器学习4 凸优化初步

七月算法机器学习4 凸优化初步

 

 

 

 

 

 

 

 

相关文章: