【问题标题】:print csv file with header(column names) with empty dataset in spark java [duplicate]在spark java中使用空数据集打印带有标题(列名)的csv文件[重复]
【发布时间】:2020-05-06 08:07:04
【问题描述】:

我必须在 .csv 文件中打印数据集,但条件是

1) 如果数据集为空,我只需要在 csv 文件中打印标题(即带有竖线分隔符的列名),例如

ID|名字|姓氏|等级

2) 如果数据集不为空,则打印带有 csv 文件中数据的标题

需要第一点的解决方案

第二点是使用此代码

dataset.toDF().coalesec(1).write().format("csv")
   .option("delimiter","|")
   .option("header","true")
   .option("nullValue",null)
   .mode(Savemode.Overwrite)
   .save("path");

【问题讨论】:

    标签: java csv apache-spark


    【解决方案1】:

    这是 OSS 的一个错误,正在 Spark 3 版本中修复。

    这是关于该问题的 jira 票

    https://issues.apache.org/jira/browse/SPARK-26208

    这是修复的拉取请求,将被合并

    https://github.com/apache/spark/pull/23173

    【讨论】:

      猜你喜欢
      • 2019-08-06
      • 2021-01-27
      • 2021-04-16
      • 1970-01-01
      • 1970-01-01
      • 2011-03-09
      • 2012-12-31
      • 2015-01-14
      • 2021-08-03
      相关资源
      最近更新 更多