如何在 R 的神经网络中使用自定义激活函数

Question

我是 R 新手，我正在尝试为回归任务构建神经网络。

我正在使用neuralnet 库来构建我的神经网络，我注意到它接受了几个参数。 act.fct 就是其中之一。

act.fct

一个可微函数，用于平滑协变量或神经元与权重的叉积的结果。此外，字符串 'logistic' 和 'tanh' 可能用于逻辑函数和正切双曲线。

默认提供逻辑激活函数，但我想使用自定义的 softplus 函数。

我的代码可以正常运行，但我如何知道是否使用了 softplus 而不是默认激活函数？

下面是我的 R 代码 sn-p。

softplus <- function(x) log(1+exp(x))

net <- neuralnet(formula = f, 
             data = as.matrix(train),
             act.fct = softplus,
             stepmax = 1e7,
             hidden = c(10, 8, 6),
             linear.output = T)

Answer 1

只需检查对象net：

net$act.fct(x)

应该并且将返回与 softplus(x) 相同的值。