【问题标题】:Pyspark : Deleting columns based on sub set of a stringPyspark:根据字符串的子集选择列
【发布时间】:2020-05-22 14:13:33
【问题描述】:

我有一个数据框;如下所示

id   1id  id2  ac1  2ac tre tye

我想删除其中包含"id""ac" 的列并保留其他列

我将如何在 pyspark 中实现这一点?

尝试过的“选择语句”不起作用

我应该如何在这里对列名使用正则表达式?

【问题讨论】:

    标签: python dataframe apache-spark pyspark apache-spark-sql


    【解决方案1】:

    使用简单的列表推导:

    • 使用选择

      df.select(*[col(c) for c in df.columns if not("id" in c or "ac" in c)]).show()
      
    • 使用拖放

      df.drop(*[c for c in df.columns if "id" in c or "ac" in c]).show()
      

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2021-10-23
      • 1970-01-01
      • 1970-01-01
      • 2022-11-01
      • 2014-10-01
      • 1970-01-01
      • 2021-11-24
      相关资源
      最近更新 更多