线性规划(再回首)
加入松弛变量
标准形式的线性规划
-
有点意思
-
右边同样的找到一个可行解,使其值相等
-
左边同上
例子
线性分式函数
-
转化为线性规划问题
-
完了思想抛锚一分钟后面全都听不懂了。。。。。太真实了
二次规划
- QCQP问题比较复杂
- 例子:带噪声的测量系统: b = ax + e
- 即:最小二乘
核心问题:最小二乘
- 分别是无约束和带约束的二次优化
- x是稀疏矩阵, x =argmin ||b-ax||2 +lambda||x||0 0范数非凸
- 转换成l1范数约束
- 这不是就是l1正则吗,妙哉妙哉(终于悟了)
- ||x||1 出现绝对值要消去
- x分成 x+和x-
- 化为lambda 1Tx+ - lambda 1Tx- (太妙了)
- 属于二次规划问题,约束为正----》lasso
l2约束(ridge regression)
- x中元素幅度类似,那么用2范数去衡量幅度大小,希望其小
- x =argmin ||b-ax||2 +lambda||x||2 (即降低函数高峰值,拉高低峰值)
- 使得参数矩阵正定,标准二次规划问题