可微分的最大值和最小值答案

【问题标题】：differentiable maximum and minimum可微分的最大值和最小值
【发布时间】：2013-10-28 15:47:25
【问题描述】：

我需要一个最大值和最小值的近似值。由于最大值和最小值不可微，我正在寻找一个可微的近似值。

有人知道吗？例如，我需要最小化以下内容：

[max (a - max_{x\in c}(x) )^2 + (a - max_{x\in d}(x) )^2]

【问题讨论】：

【解决方案1】：

Softmax 函数是从向量到标量的可微映射，并逼近最大值函数。

【讨论】：

【解决方案2】：

Smooth maximum（最低）是一名候选人：

sum(x * exp(alpha * x)) / sum(exp(alpha * x))

其中 alpha -> +Inf 收敛到最大值，而 alpha -> -Inf 收敛到最小值。

另一个是LogSumExp:

log(sum(exp(x)))

这是一个最大值。我想问一个否定的xs 的最大值应该给最小值

论文Multiple Instance Learning: Algorithms and Applications 中提到了其他几个，例如广义均值、噪声或和“ISR”模型（因为它在“集成分割和识别”论文中有所描述）。

【讨论】：