内核加法和一个令人惊讶的事实？

Question

如果 k1 和 k2 是空间 R^n*R^n 中的内核，我们知道 k(x,z)=ak1(x,z) + bk2(x,z)（内核加法）仍然是内核（有效内核）如果 a,b >= 0（a，b 是实数，标量） .从核函数的结果可以解释为特征空间的内积这一事实可以看出这是有效的。将内积加在一起相当于将两个特征空间加在一起。但是今天当我读到我的笔记时，我很惊讶。我的 TA 说 k(x,z)=ak1(x,z) + bk2(x,z) (kernel addition) 仍然是内核，如果 a<0,b>0 或 a>0,b<0 !!!

是否仍然存在具有a<0,b>0 和a>0,b<0 的有效内核？任何专家都可以 帮帮我？

Answer 1

对于所有相等的输入，kernel 应该为非负数。让我们将任意内核（例如 RBF）表示为 K。

让我们考虑K<sub>1</sub> = K<sub>2</sub> = K。

定义K<sub>3</sub> = a K<sub>1</sub> + b K<sub>2</sub>。让a = -2，b = 1。然后K<sub>3</sub>(x, x) = -K(x, x)，不满足内核定义。

现在，上面的示例表明，对于任何K<sub>1</sub>、K<sub>2</sub>、a 和b，您的 TA 的陈述一般都不正确。显然，这些组合的某些组合会产生适当的内核。

我想，它的必要条件类似于λ<sub>min</sub>(a K<sub>1</sub>) + λ<sub>min</sub>(b K<sub>2</sub>) &gt;= 0，其中λ<sub>min</sub> 表示最小的eigenvalue 运算符。对于非负的c，λ<sub>min</sub>(c K) 等于 c λ<sub>min</sub>(K)，对于负的 c λ<sub>max</sub>(K)。以具有与上述相同内核的a=2、b=-1 为例。

但是，如果同时使用a < 0 和b < 0，则无法伪造有效内核。这很容易看出：如果K<sub>3</sub>(x, x) &gt; 0，那么，K<sub>3</sub>(x, x) = a K<sub>1</sub>(x, x) + b K<sub>2</sub>(x, x) = -|a| K<sub>1</sub>(x, x) - |b| K<sub>2</sub>(x, x) &gt; 0 因为a 和b 是负数。这会导致 |a| K<sub>1</sub>(x, x) + |b| K<sub>2</sub>(x, x) &lt; 0 不正确，因为 K<sub>1</sub> 和 K<sub>2</sub> 是有效的内核。