【发布时间】:2021-10-04 15:31:10
【问题描述】:
我正在使用 Databricks(Pyspark) 在 Azure Blob 存储中写入一个 csv 文件:
file_location = "/mnt/ndemo/nsalman/curation/movies/"
df.repartition(1).write.format("com.databricks.spark.csv").option("header", "true").save(file_location)
创建的文件名为:part-00000-tid-3921235530521294160-fb002878-253d-44f5-a773-7bda908c7178-13-1-c000.csv
现在我将其重命名为“movies.csv”:
filePath = "/mnt/ndemo/nsalman/curation/movies/"
fs.rename(spark._jvm.org.apache.hadoop.fs.Path(filePath+"part*"), spark._jvm.org.apache.hadoop.fs.Path(filePath+"movies.csv"))
运行后它给了我这个输出:
由于我是 Pyspark 的新手,我不确定为什么我的文件没有被重命名?谁能告诉我哪里出错了
【问题讨论】:
标签: python pyspark databricks