R optim()：使用父环境时的意外行为

Question

考虑函数fn()，它将最近的输入x 及其返回值ret <- x^2 存储在父环境中。

makeFn <- function(){
    xx <- ret <- NA
    fn <- function(x){
       if(!is.na(xx) && x==xx){
           cat("x=", xx, ", ret=", ret, " (memory)", fill=TRUE, sep="")
           return(ret)
       }
       xx <<- x; ret <<- sum(x^2)
       cat("x=", xx, ", ret=", ret, " (calculate)", fill=TRUE, sep="")
       ret
    }
    fn
}
fn <- makeFn()

fn() 仅在提供不同输入值时进行计算。否则，它会从父环境中读取ret。

fn(2)
# x=2, ret=4 (calculate)
# [1] 4
fn(3)
# x=3, ret=9 (calculate)
# [1] 9
fn(3)
# x=3, ret=9 (memory)
# [1] 9

当插件fn() 到optim() 中找到其最小值时，会出现以下意外行为结果：

optim(par=10, f=fn, method="L-BFGS-B")
# x=10, ret=100 (calculate)
# x=10.001, ret=100.02 (calculate)
# x=9.999, ret=100.02 (memory)
# $par
# [1] 10
# 
# $value
# [1] 100
#
# (...)

这是一个错误吗？怎么会这样？

即使使用 R 的 C-API，我也很难想象这种行为是如何实现的。有什么想法吗？

---

注意：

• 作品：

  library("optimParallel") # (parallel) wrapper to optim(method="L-BFGS-B")
  cl <- makeCluster(2); setDefaultCluster(cl)
  optimParallel(par=10, f=fn)
  

• 作品：

  optimize(f=fn, interval=c(-10, 10))
  

• 作品：

  optim(par=10, fn=fn)
  

• 失败：

  optim(par=10, fn=fn, method="BFGS")
  

• 作品：

  library("lbfgs"); library("numDeriv")
  lbfgs(call_eval=fn, call_grad=function(x) grad(func=fn, x=x), vars=10)
  

• 作品：

  library("memoise")
  fn_mem <- memoise(function(x) x^2)
  optim(par=10, f=fn_mem, method="L-BFGS-B")
  

• 使用 R 版本 3.5.0 测试。

Answer 1

出现问题是因为x 的内存地址在“B​​FGS”或“L-BFGS-B”下的优化算法的第三次迭代中被修改时没有更新方法，应该的。

相反，x 的内存地址在第三次迭代时保持与xx 的内存地址相同，这使得xx 在fn 函数之前更新为x 的值第三次运行，从而使函数返回ret的“内存”值。

如果您运行以下代码，使用envnames 或data.table 包的address() 函数在fn() 中检索x 和xx 的内存地址，您可以自己验证这一点：

library(envnames)

makeFn <- function(){
  xx <- ret <- NA
  fn <- function(x){
    cat("\nAddress of x and xx at start of fn:\n")
    cat("address(x):", address(x), "\n")
    cat("address(xx):", address(xx), "\n")
    if(!is.na(xx) && x==xx){
      cat("x=", xx, ", ret=", ret, " (memory)", fill=TRUE, sep="")
      return(ret)
    }
    xx <<- x; ret <<- sum(x^2)
    cat("x=", xx, ", ret=", ret, " (calculate)", fill=TRUE, sep="")
    ret
  }
  fn
}

fn <- makeFn()

# Run the optimization process
optim(par=0.1, fn=fn, method="L-BFGS-B")

其部分输出（假设在运行此代码 sn-p 之前未进行任何优化运行）将类似于以下内容：

Address of x and xx at start of fn:
address(x): 0000000013C89DA8 
address(xx): 00000000192182D0 
x=0.1, ret=0.010201 (calculate)

Address of x and xx at start of fn:
address(x): 0000000013C8A160 
address(xx): 00000000192182D0 
x=0.101, ret=0.010201 (calculate)

Address of x and xx at start of fn:
address(x): 0000000013C8A160 
address(xx): 0000000013C8A160 
x=0.099, ret=0.010201 (memory)

这个问题不会发生在optim() 中可用的其他优化方法中，例如默认的。

注意：如前所述，data.table 包也可用于检索对象的内存地址，但在这里我借此机会宣传我最近发布的包envnames（除了检索对象的内存地址，它还从他们的内存地址中检索用户定义的环境名称——等等）