【问题标题】:Parallelize function taking external pointers (XPtr)并行化采用外部指针的函数 (XPtr)
【发布时间】:2019-02-05 13:52:12
【问题描述】:

这个问题既不是 this one 的重复,也不是 this one,是关于返回外部指针的函数。

这就是问题所在。此后的 Rcpp 代码定义了两个函数,一个创建 XPtr,另一个可以在 XPtr 上工作。

#include <Rcpp.h>
using namespace Rcpp;

//[[Rcpp::export]]
SEXP f(int n) {
  std::vector<int> * v = new std::vector<int>;

  for(int i = 0; i < n; i++)
    v->push_back(i);

  XPtr< std::vector<int> > p(v, true);
  return p;
}

//[[Rcpp::export]]
int g(XPtr< std::vector<int> > p, int i) {
  return (*p)[i];

而且效果很好:

> x <- f(100)
> g(x, 45)
[1] 45

让我们尝试并行调用g。这有效:

require(parallel)
test1 <- function(a) {
  cl <- makeForkCluster(nnodes=2)
  r <- parLapply(cl, 1:5, function(i) g(a,i) )
  stopCluster(cl)
  return(r)
}

预期行为:

> unlist( test1(x) )
[1] 1 2 3 4 5

但这不起作用:

test2 <- function(a) {
  cl <- makeForkCluster(nnodes=2)

  p <- g(a, 0)
  r <- parLapply(cl, 1:5, function(i) g(a,i) )
  stopCluster(cl)
  return(r)
}

意外行为:

> test2(x)
Error in checkForRemoteErrors(val) : 
  2 nodes produced errors; first error: external pointer is not valid

问题似乎是由于在调用集群中的从属服务器之前,函数中使用了一次外部指针。什么解释了这种行为,是否有解决方法?非常感谢。

【问题讨论】:

    标签: r rcpp rparallel


    【解决方案1】:

    在函数的开头,a 是一个承诺,即在特定环境中评估特定表达式的内容。当您访问变量时,表达式会被计算,所以现在a 是一个指针,并且该指针特定于特定的 R 实例。你可以使用pryr::promise_info查看这个:

    test2 <- function(a) {
      cl <- makeForkCluster(nnodes = 2)
      print(pryr::promise_info(a))
      p <- g(a, 0)
      print(pryr::promise_info(a))
      stopCluster(cl)
      return(r)
    }
    

    输出:

    $code
    x
    
    $env
    <environment: R_GlobalEnv>
    
    $evaled
    [1] FALSE
    
    $value
    NULL
    
    $code
    x
    
    $env
    NULL
    
    $evaled
    [1] TRUE
    
    $value
    <pointer: 0x565295e3a410>
    

    一种方法是使用eval(substitute(a))

    test2 <- function(a) {
      cl <- makeForkCluster(nnodes = 2)
      print(pryr::promise_info(a))
      p <- g(eval(substitute(a)), 0)
      print(pryr::promise_info(a))
      r <- parLapply(cl, 1:5, function(i) g(a,i) )
      stopCluster(cl)
      return(r)
    }
    

    我相信还有更好的方法。非标准评价对我来说还是有点陌生​​……

    【讨论】:

    • 很好的答案,谢谢!!我不知道pryr::promise_info 在其他情况下肯定会证明是有用的(我有其他与嵌套函数调用相同性质的问题......)。在问这个问题之前,我确实尝试了get(deparse(substitute(a))) 之类的一些东西,但我没想到eval...
    • 请看看这个新问题:stackoverflow.com/questions/54764144
    猜你喜欢
    • 1970-01-01
    • 2016-11-18
    • 2022-06-14
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2013-12-29
    • 2016-11-15
    • 1970-01-01
    相关资源
    最近更新 更多