学习机器学习的时候有涉及到共轭函数(也叫对偶函数),这边文章总结一下共轭函数的学习

共轭函数的定义:对于函数 共轭函数两个性质的证明  其定义如下:

共轭函数两个性质的证明

共轭函数两个性质的证明表示函数共轭函数两个性质的证明的定义域,可以这样理解这个函数:首先它是关于共轭函数两个性质的证明的函数,给定一个共轭函数两个性质的证明 值时,关于共轭函数两个性质的证明的函数共轭函数两个性质的证明 在定义域上的最大值,即共轭函数两个性质的证明 对应的值

共轭函数在支持向量机的数学理论证明有涉及过,在最近火的不行的Gan生成对抗神经网络进阶版本的数学推理中也发挥着神奇的作用(听说待学习)

因为它有两个非常好的性质:

1. 无论共轭函数两个性质的证明是否是凸函数,其共轭函数都是凸函数

2. 凸函数的共轭函数的共轭函数是它自己

首先解释一下凸函数,机器学习里面的的凸函数和以前高中数学学到的凸函数有点不一样,在机器学习里面 共轭函数两个性质的证明是凸函数,共轭函数两个性质的证明是凹函数,简单来说,机器学习里面的凸函数有下面的性质(也是凸函数的定义之一):

共轭函数两个性质的证明

可以简单的从下图理解:(共轭函数两个性质的证明

共轭函数两个性质的证明

 

 

现在来证明共轭函数第一条性质,即:

1. 无论共轭函数两个性质的证明是否是凸函数,其共轭函数都是凸函数

等价要证明:

共轭函数两个性质的证明

代入共轭函数的定义,上述不等式等价于:

共轭函数两个性质的证明 

上述不等式左边等价于:

共轭函数两个性质的证明

假设在共轭函数两个性质的证明出取到最大值,上式等于:

共轭函数两个性质的证明共轭函数两个性质的证明共轭函数两个性质的证明

共轭函数两个性质的证明共轭函数两个性质的证明相加,右边把共轭函数两个性质的证明共轭函数两个性质的证明共轭函数两个性质的证明里面提取出来,即等于公式共轭函数两个性质的证明的右边,由此可证公式共轭函数两个性质的证明

 

证明共轭函数的第二条性质,即:

2. 凸函数的共轭函数的共轭函数是它自己

函数 共轭函数两个性质的证明的共轭函数如下:

共轭函数两个性质的证明

由于共轭函数两个性质的证明是凸函数,给定共轭函数两个性质的证明,关于共轭函数两个性质的证明的函数共轭函数两个性质的证明最大值在导数等于共轭函数两个性质的证明的时候取得,(可以想象一下共轭函数两个性质的证明    共轭函数两个性质的证明

即:

共轭函数两个性质的证明

共轭函数两个性质的证明

即对于给定共轭函数两个性质的证明, 共轭函数两个性质的证明对于的 共轭函数两个性质的证明 是 共轭函数两个性质的证明的最大值,所以共轭函数两个性质的证明又可以写成:

共轭函数两个性质的证明

共轭函数两个性质的证明的共轭函数如下:

共轭函数两个性质的证明

同理,对于给定的共轭函数两个性质的证明共轭函数两个性质的证明 时,取最大值

共轭函数两个性质的证明

结合公式共轭函数两个性质的证明(由于公式共轭函数两个性质的证明,x可以看成关于t的函数,根据复合函数求导和乘积求导法则,可以得到下面的等式):

共轭函数两个性质的证明

代入公式共轭函数两个性质的证明,上述等式等价于:

共轭函数两个性质的证明

即对于给定的共轭函数两个性质的证明共轭函数两个性质的证明 时,共轭函数两个性质的证明 取最大值,即:

共轭函数两个性质的证明

代入 共轭函数两个性质的证明

共轭函数两个性质的证明

即f(x)的共轭函数的共轭函数是它自己

相关文章:

  • 2022-12-23
  • 2020-03-14
  • 2021-08-03
  • 2021-08-07
  • 2021-09-02
  • 2022-12-23
  • 2021-10-12
  • 2022-12-23
猜你喜欢
  • 2021-04-26
  • 2022-01-02
  • 2021-08-08
  • 2021-12-04
  • 2022-12-23
  • 2021-04-16
相关资源
相似解决方案