使用 !=<some non-NA> 对 data.table 进行子集化也排除了 NA

Question

我有一个 data.table，其中有一列包含 NAs。我想删除该列具有特定值的行（恰好是""）。但是，我的第一次尝试也导致我丢失了 NAs 的行：

> a = c(1,"",NA)
> x <- data.table(a);x
    a
1:  1
2:   
3: NA
> y <- x[a!=""];y
   a
1: 1

看了?`!=`后，我发现了一个可以工作的单行，但是很痛苦：

> z <- x[!sapply(a,function(x)identical(x,""))]; z
    a
1:  1
2: NA

我想知道是否有更好的方法来做到这一点？此外，我认为没有很好的方法可以将其扩展到排除多个非NA 值。这是一个不好的方法：

>     drop_these <- function(these,where){
+         argh <- !sapply(where,
+             function(x)unlist(lapply(as.list(these),function(this)identical(x,this)))
+         )
+         if (is.matrix(argh)){argh <- apply(argh,2,all)}
+         return(argh)
+     }
>     x[drop_these("",a)]
    a
1:  1
2: NA
>     x[drop_these(c(1,""),a)]
    a
1: NA

我查看了?J 并尝试了一个 data.frame，它似乎工作方式不同，在子集时保持NAs：

> w <- data.frame(a,stringsAsFactors=F); w
     a
1    1
2     
3 <NA>
> d <- w[a!="",,drop=F]; d
      a
1     1
NA <NA>

Answer 1

如你所见，原因如下：

a != ""
#[1]  TRUE    NA FALSE

你可以做你已经想到的事情，即x[is.na(a) | a != ""]，或者你可以在a上setkey并执行以下操作：

setkey(x, a)
x[!J("")]

Answer 2

为您的问题提供解决方案：

您应该使用%in%。它会给你一个逻辑向量。

a %in% ""
# [1] FALSE  TRUE FALSE

x[!a %in% ""]
#     a
# 1:  1
# 2: NA

---

要找出为什么data.table会发生这种情况：

（与data.frame相反）

如果您查看函数"[.data.table" 下文件data.table.R 上的data.table 源代码，则有一组if-statements 用于检查i 参数。其中之一是：

if (!missing(i)) {
    # Part (1)
    isub = substitute(i)

    # Part (2)
    if (is.call(isub) && isub[[1L]] == as.name("!")) {
        notjoin = TRUE
        if (!missingnomatch) stop("not-join '!' prefix is present on i but nomatch is provided. Please remove nomatch.");
        nomatch = 0L
        isub = isub[[2L]]
    }

    .....
    # "isub" is being evaluated using "eval" to result in a logical vector

    # Part 3
    if (is.logical(i)) {
        # see DT[NA] thread re recycling of NA logical
        if (identical(i,NA)) i = NA_integer_  
        # avoids DT[!is.na(ColA) & !is.na(ColB) & ColA==ColB], just DT[ColA==ColB]
        else i[is.na(i)] = FALSE  
    }
    ....
}

为了解释这种差异，我在此处粘贴了一段重要的代码。我还将它们标记为 3 个部分。

首先，为什么dt[a != ""] 不能按预期工作（由 OP 提供）？

首先，part 1 计算为 call 类的对象。 part 2 中的 if 语句的第二部分返回 FALSE。之后，call 被“评估”为c(TRUE, FALSE, NA)。然后part 3 被执行。因此，NA 被替换为FALSE（逻辑循环的最后一行）。

为什么x[!(a== "")] 按预期工作（由 OP）？

part 1 再次返回一个调用。但是，part 2 的计算结果为 TRUE，因此设置：

1) `notjoin = TRUE`
2) isub <- isub[[2L]] # which is equal to (a == "") without the ! (exclamation)

这就是魔法发生的地方。否定现在已被删除。请记住，这仍然是 call 类的对象。所以这被评估（使用eval）再次合乎逻辑。因此，(a=="") 的计算结果为 c(FALSE, TRUE, NA)。

现在，在part 3 中检查is.logical。所以，在这里，NA 被替换为 FALSE。因此它变成了c(FALSE, TRUE, FALSE)。在稍后的某个时间点，一个which(c(F,T,F)) 被执行，这导致 2 这里。因为返回了notjoin = TRUE（来自part 2）seq_len(nrow(x))[-2] = c(1,3)。所以，x[!(a=="")] 基本上返回x[c(1,3)]，这是期望的结果。下面是相关代码sn-p：

if (notjoin) {
    if (bywithoutby || !is.integer(irows) || is.na(nomatch)) stop("Internal error: notjoin but bywithoutby or !integer or nomatch==NA")
    irows = irows[irows!=0L]
    # WHERE MAGIC HAPPENS (returns c(1,3))
    i = irows = if (length(irows)) seq_len(nrow(x))[-irows] else NULL  # NULL meaning all rows i.e. seq_len(nrow(x))
    # Doing this once here, helps speed later when repeatedly subsetting each column. R's [irows] would do this for each
    # column when irows contains negatives.
}

鉴于此，我认为语法存在一些不一致之处。如果我能有时间来阐述问题，那么我会尽快写一篇文章。

Answer 3

Matthew 的背景回答：

考虑到这个问题突出显示的!= 上的NA 的行为不是故意的。初衷确实是和[.data.framew.r.t不同。 == 和 NA 我相信每个人都对此感到满意。例如，FAQ 2.17 有：

DT[ColA==ColB] 比 DF[!is.na(ColA) & !is.na(ColB) & ColA==ColB,] 简单

这种便利是通过 dint of 实现的：

DT[c(TRUE,NA,FALSE)] 将NA 视为FALSE，但DF[c(TRUE,NA,FALSE)] 为每个 NA 返回 NA 行

动机不仅是方便，而且是速度，因为每个 !、is.na、& 和 == 本身都是矢量扫描，每个结果都有相关的内存分配（在介绍小插图中解释） .因此，尽管x[is.na(a) | a!=""] 是一个可行的解决方案，但它正是我试图避免在 data.table 中需要的逻辑类型。 x[!a %in% ""] 稍微好一点；即 2 次扫描（%in% 和 !）而不是 3 次（is.na、| 和 !=）。但实际上 x[a != ""] 应该在一次扫描中完成 Frank 所期望的（包括 NA）。

提交的新功能请求链接回此问题：

DT[col!=""] should include NA

感谢 Frank、Eddi 和 Arun。如果我没有正确理解，请随时纠正，否则最终会做出改变。它需要以考虑复合表达式的方式完成；例如，DT[colA=="foo" & colB!="bar"] 应该排除 colA 中带有 NA 的行，但包括 colA 不是NA 但 colB 是 NA 的行。同样，DT[colA!=colB] 应该包含 colA 或 colB 为 NA 但不能同时包含两者的行。也许DT[colA==colB] 应该包含colA 和colB 都是NA 的行（我相信它目前没有）。