使用 R 优化/矢量化数据库查询答案

【问题标题】：Optimize/Vectorize Database Query with R使用 R 优化/矢量化数据库查询
【发布时间】：2020-03-28 11:28:02
【问题描述】：

我正在尝试使用 R 来查询大型数据库。由于数据库的大小，我编写了一次获取 100 行的查询我的代码如下所示：

library(RJDBC)
library(DBI)
library(tidyverse)

options(java.parameters = "-Xmx8000m")

drv<-JDBC("driver name", "driver path.jar")

conn<-
  dbConnect(
    drv, 
    "database info",
    "username",
    "password"
)

query<-"SELECT * FROM some_table"

hc<-tibble()
res<-dbSendQuery(conn,query)
repeat{
  chunk<-dbFetch(res,100)
  if(nrow(chunk)==0){break}
  hc<-bind_rows(hc,chunk)
  print(nrow(hc))
}

基本上，我想写一些做同样事情的东西，但是通过function和lapply的组合。理论上，鉴于 R 通过循环处理数据的方式，使用lapply 将加快查询速度。对dbFetch 函数的一些了解可能会有所帮助。具体来说，在 repeat 循环中，它如何不只是继续选择前 100 行。

我尝试了以下方法，但没有任何效果：

df_list <- lapply(query , function(x) dbGetQuery(conn, x)) 

hc<-tibble()
res<-dbSendQuery(conn,query)
test_query<-function(x){
  chunk<-dbFetch(res,100)
  if(nrow(chunk)==0){break}
  print(nrow(hc))
}
bind_rows(lapply(test_query,res))

【问题讨论】：

标签： r database function loops dbi

【解决方案1】：

考虑遵循dbFetch docs 中的示例，检查获取的完成状态dbHasCompleted。然后，为了提高内存效率，使用lapply 构建一个数据帧/小标题列表，然后在循环外进行行绑定once。

rs <- dbSendQuery(con, "SELECT * FROM some_table")

run_chunks <- function(i, res) {
  # base::transform OR dplyr::mutate
  # base::tryCatch => for empty chunks depending on chunk number
  chunk <- tryCatch(transform(dbFetch(res, 100), chunk_no = i),    
                    error = function(e) NULL)
  return(chunk)
}

while (!dbHasCompleted(rs)) {
  # PROVIDE SUFFICIENT NUMBER OF CHUNKS (table rows / fetch rows)
  df_list <- lapply(1:5, run_chunks, res=rs)                      
}

# base::do.call(rbind, ...) OR dplyr::bind_rows(...) 
final_df <- do.call(rbind, df_list)

使用mtcars的内存SQLite数据库演示：

con <- dbConnect(RSQLite::SQLite(), ":memory:")

dbWriteTable(con, "mtcars", mtcars)

run_chunks <- function(i, res) {
  chunk <- dbFetch(res, 10)
  return(chunk)
}

rs <- dbSendQuery(con, "SELECT * FROM mtcars")

while (!dbHasCompleted(rs)) {
  # PROVIDE SUFFICIENT NUMBER OF CHUNKS (table rows / fetch rows)

  df_list <- lapply(1:5, function(i) 
    print(run_chunks(i, res=rs))
  )
}

do.call(rbind, df_list)

dbClearResult(rs)
dbDisconnect(con)

输出 （5块10行、10行、10行、2行、0行、满32行）

#     mpg cyl  disp  hp drat    wt  qsec vs am gear carb
# 1  21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4
# 2  21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4
# 3  22.8   4 108.0  93 3.85 2.320 18.61  1  1    4    1
# 4  21.4   6 258.0 110 3.08 3.215 19.44  1  0    3    1
# 5  18.7   8 360.0 175 3.15 3.440 17.02  0  0    3    2
# 6  18.1   6 225.0 105 2.76 3.460 20.22  1  0    3    1
# 7  14.3   8 360.0 245 3.21 3.570 15.84  0  0    3    4
# 8  24.4   4 146.7  62 3.69 3.190 20.00  1  0    4    2
# 9  22.8   4 140.8  95 3.92 3.150 22.90  1  0    4    2
# 10 19.2   6 167.6 123 3.92 3.440 18.30  1  0    4    4

#     mpg cyl  disp  hp drat    wt  qsec vs am gear carb
# 1  17.8   6 167.6 123 3.92 3.440 18.90  1  0    4    4
# 2  16.4   8 275.8 180 3.07 4.070 17.40  0  0    3    3
# 3  17.3   8 275.8 180 3.07 3.730 17.60  0  0    3    3
# 4  15.2   8 275.8 180 3.07 3.780 18.00  0  0    3    3
# 5  10.4   8 472.0 205 2.93 5.250 17.98  0  0    3    4
# 6  10.4   8 460.0 215 3.00 5.424 17.82  0  0    3    4
# 7  14.7   8 440.0 230 3.23 5.345 17.42  0  0    3    4
# 8  32.4   4  78.7  66 4.08 2.200 19.47  1  1    4    1
# 9  30.4   4  75.7  52 4.93 1.615 18.52  1  1    4    2
# 10 33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1

#     mpg cyl  disp  hp drat    wt  qsec vs am gear carb
# 1  21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1
# 2  15.5   8 318.0 150 2.76 3.520 16.87  0  0    3    2
# 3  15.2   8 304.0 150 3.15 3.435 17.30  0  0    3    2
# 4  13.3   8 350.0 245 3.73 3.840 15.41  0  0    3    4
# 5  19.2   8 400.0 175 3.08 3.845 17.05  0  0    3    2
# 6  27.3   4  79.0  66 4.08 1.935 18.90  1  1    4    1
# 7  26.0   4 120.3  91 4.43 2.140 16.70  0  1    5    2
# 8  30.4   4  95.1 113 3.77 1.513 16.90  1  1    5    2
# 9  15.8   8 351.0 264 4.22 3.170 14.50  0  1    5    4
# 10 19.7   6 145.0 175 3.62 2.770 15.50  0  1    5    6

#    mpg cyl disp  hp drat   wt qsec vs am gear carb
# 1 15.0   8  301 335 3.54 3.57 14.6  0  1    5    8
# 2 21.4   4  121 109 4.11 2.78 18.6  1  1    4    2

# [1] mpg  cyl  disp hp   drat wt   qsec vs   am   gear carb
# <0 rows> (or 0-length row.names)

do.call(rbind, df_list)
#     mpg cyl  disp  hp drat    wt  qsec vs am gear carb
# 1  21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4
# 2  21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4
# 3  22.8   4 108.0  93 3.85 2.320 18.61  1  1    4    1
# 4  21.4   6 258.0 110 3.08 3.215 19.44  1  0    3    1
# 5  18.7   8 360.0 175 3.15 3.440 17.02  0  0    3    2
# 6  18.1   6 225.0 105 2.76 3.460 20.22  1  0    3    1
# 7  14.3   8 360.0 245 3.21 3.570 15.84  0  0    3    4
# 8  24.4   4 146.7  62 3.69 3.190 20.00  1  0    4    2
# 9  22.8   4 140.8  95 3.92 3.150 22.90  1  0    4    2
# 10 19.2   6 167.6 123 3.92 3.440 18.30  1  0    4    4
# 11 17.8   6 167.6 123 3.92 3.440 18.90  1  0    4    4
# 12 16.4   8 275.8 180 3.07 4.070 17.40  0  0    3    3
# 13 17.3   8 275.8 180 3.07 3.730 17.60  0  0    3    3
# 14 15.2   8 275.8 180 3.07 3.780 18.00  0  0    3    3
# 15 10.4   8 472.0 205 2.93 5.250 17.98  0  0    3    4
# 16 10.4   8 460.0 215 3.00 5.424 17.82  0  0    3    4
# 17 14.7   8 440.0 230 3.23 5.345 17.42  0  0    3    4
# 18 32.4   4  78.7  66 4.08 2.200 19.47  1  1    4    1
# 19 30.4   4  75.7  52 4.93 1.615 18.52  1  1    4    2
# 20 33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1
# 21 21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1
# 22 15.5   8 318.0 150 2.76 3.520 16.87  0  0    3    2
# 23 15.2   8 304.0 150 3.15 3.435 17.30  0  0    3    2
# 24 13.3   8 350.0 245 3.73 3.840 15.41  0  0    3    4
# 25 19.2   8 400.0 175 3.08 3.845 17.05  0  0    3    2
# 26 27.3   4  79.0  66 4.08 1.935 18.90  1  1    4    1
# 27 26.0   4 120.3  91 4.43 2.140 16.70  0  1    5    2
# 28 30.4   4  95.1 113 3.77 1.513 16.90  1  1    5    2
# 29 15.8   8 351.0 264 4.22 3.170 14.50  0  1    5    4
# 30 19.7   6 145.0 175 3.62 2.770 15.50  0  1    5    6
# 31 15.0   8 301.0 335 3.54 3.570 14.60  0  1    5    8
# 32 21.4   4 121.0 109 4.11 2.780 18.60  1  1    4    2

【讨论】：

while 循环不能正常工作，因为一旦建立连接（而不是在查询完成时）dbHasCompleted 似乎为 TRUE。此外，我处理的数据集的大小范围很大，所以我想在查询时提供更大的灵活性。此外，没有理由将chunk_no 添加为列，因为它会增加处理时间。 tryCatch 不过是个好主意。我能够使用它构建一个有效的解决方案（见下文）。
非常有趣，因为我在发布之前测试了这段代码！查看扩展演示，打印出每个块和最终数据帧。

【解决方案2】：

下面的效果很好，因为它允许用户自定义块的大小和数量。理想情况下，该函数会以某种方式被矢量化。

我探索了获取行数以自动设置块数，但我找不到任何方法，而实际上不需要先执行查询。添加大量块不会增加大量额外的处理时间。 repeat 方法的性能提升取决于数据的大小，但数据越大，性能提升越大。

n = 1000 的块似乎始终能产生最佳结果。对这些观点的任何建议将不胜感激。

解决方案：

library(RJDBC)
library(DBI)
library(dplyr)
library(tidyr)

res<-dbSendQuery(conn,"SELECT * FROM some_table")
##Multiplied together need to be greater than N
chunk_size<-1000
chunk_number<-150

run_chunks<-
  function(chunk_number, res, chunk_size) {

    chunk <- 
     tryCatch(
      dbFetch(res, chunk_size),   
      error = function(e) NULL
     )

   if(!is.null(chunk)){
      return(chunk)
      }
    }


dat<-
  bind_rows(
    lapply(
      1:chunk_number,
      run_chunks,
      res,
      chunk_size
      )
    )

【讨论】：

我现在正在玩这个，但我渴望考虑如何并行化和加速它！直接在托管数据库的服务器上直接在 MS SQL Server 中运行几分钟的查询需要一个多小时才能返回完整的 d.f.在 R 中，我想找到更好的工作流程！
@michael 这就是问题的重点，哈哈。如果您找到更好的解决方案，请随时发布！