R中矩阵的快速子集答案

【问题标题】：Fast subsetting of a matrix in RR中矩阵的快速子集
【发布时间】：2018-02-11 10:40:05
【问题描述】：

我面临以下问题：我需要一个大矩阵的许多子集。实际上我只需要视图作为另一个函数 f() 的输入，所以我不需要更改值。但是看起来，R 对这项任务来说非常慢，或者我做错了什么（这似乎更有可能）。玩具示例说明了仅选择列需要多少时间，然后在另一个函数中使用它们（在这个玩具示例中，原始函数 sum()）。作为“基准”，我还测试了对整个矩阵求和的计算时间，这出奇地快。我还尝试了包 ref，但是无法获得任何性能提升。 所以关键问题是如何在不复制矩阵的情况下对其进行子集化？感谢您的帮助，谢谢！

library(microbenchmark)
library(ref)

m0 <- matrix(rnorm(10^6), 10^3, 10^3)
r0 <- refdata(m0)
microbenchmark(m0[, 1:900], sum(m0[, 1:900]), sum(r0[,1:900]), sum(m0))

Unit: milliseconds
             expr       min        lq      mean    median        uq
      m0[, 1:900] 10.087403 12.350751 16.697078 18.307475 19.054157
 sum(m0[, 1:900]) 11.067583 13.341860 17.286514 19.123748 19.990661
 sum(r0[, 1:900]) 11.066164 13.194244 16.869551 19.204434 20.004034
          sum(m0)  1.015247  1.040574  1.059872  1.049513  1.067142
       max neval
 58.238217   100
 25.664729   100
 23.505308   100
  1.233617   100

对整个矩阵求和的基准任务耗时 1.059872 毫秒，比其他函数快约 16 倍。

【问题讨论】：

尝试您的示例时出现错误：Error in r0[, 1:900] : incorrect number of dimensions
library('ref') 修复它
好的，那么解决方案的标准是什么？它是否必须比您现在正在做的更快，还是必须比对整个矩阵求和更快？
使用 Rcpp 或 compiler 可能会给您带来所需的性能提升
@Hack-R 编译器通常没那么有用。

标签： r performance matrix ref

【解决方案1】：

您的解决方案的问题是子集正在分配另一个矩阵，这需要时间。

你有两个解决方案：

如果在整个矩阵上使用sum 所花费的时间对您来说没问题，您可以在整个矩阵上使用colSums 并对结果进行子集化：

sum(colSums(m0)[1:900])

或者您可以使用 Rcpp 计算带有子集的 sum 而无需复制矩阵。

#include <Rcpp.h>
using namespace Rcpp;

// [[Rcpp::export]]
double sumSub(const NumericMatrix& x,
              const IntegerVector& colInd) {

  double sum = 0;

  for (IntegerVector::const_iterator it = colInd.begin(); it != colInd.end(); ++it) {
    int j = *it - 1;
    for (int i = 0; i < x.nrow(); i++) {
      sum += x(i, j);
    }
  }

  return sum;
}

    microbenchmark(m0[, 1:900], sum(m0[, 1:900]), sum(r0[,1:900]), sum(m0),
                   sum(colSums(m0)[1:900]),
                   sumSub(m0, 1:900))
Unit: milliseconds
                    expr      min       lq     mean   median       uq       max neval
             m0[, 1:900] 4.831616 5.447749 5.641096 5.675774 5.861052  6.418266   100
        sum(m0[, 1:900]) 6.103985 6.475921 7.052001 6.723035 6.999226 37.085345   100
        sum(r0[, 1:900]) 6.224850 6.449210 6.728681 6.705366 6.943689  7.565842   100
                 sum(m0) 1.110073 1.145906 1.175224 1.168696 1.197889  1.269589   100
 sum(colSums(m0)[1:900]) 1.113834 1.141411 1.178913 1.168312 1.201827  1.408785   100
       sumSub(m0, 1:900) 1.337188 1.368383 1.404744 1.390846 1.415434  2.459361   100

您可以使用unrolling optimization进一步优化Rcpp版本。

【讨论】：

是的，这就是答案。 +1。我认为我的评论在我们实施之前就提出来了，它也值得 +1 ；）真的，如果sum(colSums(m0)[1:900]) 做得很好，我们甚至不需要更麻烦的Rcpp。
感谢您的回复。是的，我认为你是绝对正确的。主要问题是为矩阵副本分配内存。是否可以在不复制矩阵的情况下在 R 中执行此操作？我需要矩阵子集作为另一个自写函数的输入，sum() 函数在这里仅作为示例。
基本上，我创建了所有函数，以便它们可以在矩阵的子集上进行操作。如果你不想复制，你只需要这样的函数。

【解决方案2】：

使用compiler，我编写了一个函数，它得到的结果大约是其他方法的 2 倍（sum(m0) 的 8 倍而不是 16 倍）：

require(compiler)

compiler_sum <- cmpfun({function(x) {
     tmp <- 0
     for (i in 1:900)
         tmp <- tmp+sum(x[,i])
     tmp
}})

microbenchmark( 
               sum(m0),
               compiler_sum(m0)
               )

Unit: milliseconds
             expr      min       lq     mean   median      uq       max
          sum(m0) 1.016532 1.056030 1.107263 1.084503 1.11173  1.634391
 compiler_sum(m0) 7.655251 7.854135 8.000521 8.021107 8.29850 16.760058
 neval
   100
   100

【讨论】：