【发布时间】:2017-02-22 04:18:55
【问题描述】:
如果我根据列按降序对数据框进行排序。然后使用 df.dropDuplicate 删除重复项,然后将删除哪个元素?基于排序较小的元素?
【问题讨论】:
-
我认为是的,它应该保留第一个并删除第二个,即删除较小的值
标签: scala apache-spark-sql spark-dataframe scala-collections
如果我根据列按降序对数据框进行排序。然后使用 df.dropDuplicate 删除重复项,然后将删除哪个元素?基于排序较小的元素?
【问题讨论】:
标签: scala apache-spark-sql spark-dataframe scala-collections
DropDuplicate 方法保留第一个元素并删除其他元素。
所以是的,在降序排序时,只有最大的(基于排序的)将被保留,其他的会被删除。
【讨论】: