R 中的优化 - 目标和梯度的高效计算

Question

我需要针对目标函数优化一组变量。我有函数的分析梯度，并想在优化例程中使用它。目标和梯度有一些共同的计算，我想以最有效的方式定义函数。下面的例子演示了这个问题。

让f_obj、f_grad 和f_common 分别是目标、梯度和普通计算的函数。优化在向量x 上。下面的代码找到多项式y^3 - 3*y^2 + 6*y + 1 的根，其中y 是c(x[1], x[2]) 的函数。请注意，函数f_common 在f_obj 和f_grad 中都被调用。在我的实际问题中，常见的计算要长得多，所以我正在寻找一种方法来定义f_obj 和f_grad，以便最大限度地减少对f_common 的调用次数。

f_common <- function(x) x[1]^3*x[2]^3 - x[2]

f_obj <- function(x) {
  y <- f_common(x)
  return ( (y^3 - 3*y^2 + 6*y + 1)^2 )
}

f_grad <- function(x) {
  y <- f_common(x)
  return ( 2 * (y^3 - 3*y^2 + 6*y + 1) * (3*y^2 - 6*y + 6)* c(3*x[1]^2*x[2]^3, 3*x[1]^3*x[2]^2 - 1) )
}

optim(par = c(100,100), fn = f_obj, gr = f_grad, method = "BFGS")

更新

我发现包nloptr 提供了将目标函数及其梯度作为列表输入的功能。有没有办法以类似的方式定义其他优化器（optim、optimx、nlminb 等）？

谢谢。

Answer 1

将通用函数的值存储在全局变量中，以供后续函数调用使用，如下所示：

f_common <- function(x) x[1]^3*x[2]^3 - x[2]

f_obj <- function(x) {
  y <<- f_common(x)   # <<- operator stores in parent scope
  return ( (y^3 - 3*y^2 + 6*y + 1)^2 )
}

f_grad <- function(x) {
  return ( 2 * (y^3 - 3*y^2 + 6*y + 1) * (3*y^2 - 6*y + 6)* c(3*x[1]^2*x[2]^3, 3*x[1]^3*x[2]^2 - 1) )
}

y<<-0

optim(par = c(100,100), fn = f_obj, gr = f_grad, method = "BFGS")

有关此解决方案的几点说明值得补充。

1) 首先，使用

2) 还应该注意的是，通常不建议使用全局变量，因为如果在其他地方使用相同的变量名，它们可能会产生意想不到的副作用。为了避免任何可能的副作用，我建议使用一个变量名，例如 global.f_common，它永远不会在其他地方使用并且没有副作用的危险。我只是在示例中使用了名称 y 以与原始问题中的命名法保持一致。这是在其函数之外赋予变量范围可能是合理的少数情况之一，因为很难以另一种方式实现所需的行为。只需确保谨慎使用并使用上面建议的唯一名称（例如 global.f_common）。