【问题标题】:How do I write a pyspark dataframe into a CSV and read it into Pandas?如何将 pyspark 数据帧写入 CSV 并将其读入 Pandas?
【发布时间】:2023-02-21 17:18:04
【问题描述】:

执行此操作时提到的所有方法似乎都提供了一个文件夹,而不是可以读取到 pandas 数据框的单个 .csv 文件。

【问题讨论】:

  • 您的 spark 数据框很大吗?

标签: pandas dataframe pyspark


【解决方案1】:

如果您的 PySpark 数据框不是那么大,您可以简单地将其转换为 Pandas 数据框,然后将其保存到磁盘:

# type(df) -> pyspark.sql.dataframe.DataFrame
df.toPandas.to_csv('out.csv')

但是,如果它很大,则无法将其加载到 Pandas 数据框中。

【讨论】:

    猜你喜欢
    • 2017-11-01
    • 2020-10-06
    • 2018-06-24
    • 2023-04-03
    • 2021-05-19
    • 2020-11-26
    • 2021-01-18
    • 2021-12-27
    • 1970-01-01
    相关资源
    最近更新 更多