修改 Torch 标准

Question

我想在 Torch 中创建一个自定义损失函数，这是对 ClassNLLCriterion 的修改。具体而言，ClassNLLCriterion loss 为：

loss(x, class) = -x[class]

我想修改为：

loss(x, class) = -x[class]*K

其中K 是网络输入的函数，而不是网络权重或网络输出的函数。因此K 可以被视为一个常量。

实现此自定义标准的最简单方法是什么？ updateOutput() 函数看起来很简单，但是如何修改updateGradInput() 函数呢？

Answer 1

基本上，您的损失函数L 是输入和目标的函数。所以你有

loss(input, target) = ClassNLLCriterion(input, target) * K

如果我理解正确你的新损失。然后你想实现updateGradInput，它返回你的损失函数相对于输入的导数，即

updateGradInput[ClassNLLCriterion](input, target) * K + ClassNLLCriterion(input, target) * dK/dinput

因此，您只需要根据损失函数的输入计算 K 的导数（您没有给我们计算 K 的公式）并将其代入上一行。由于您的新损失函数依赖于ClassNLLCriterion，您可以使用此损失函数的updateGradInput 和updateOutput 来计算您的损失函数。