【问题标题】:Read excel file in a directory using pyspark使用pyspark读取目录中的excel文件
【发布时间】:2023-01-10 21:00:48
【问题描述】:

`嗨, 我正在尝试使用 pyspark 读取目录中的 excel 文件,但出现 fielnotfound 错误

`env_path='dbfs:/mnt'

raw='dev/raw/work1'

路径=环境路径+原始

文件路径=路径+'/'

objects = dbutils.fs.ls(文件路径)

对于对象中的文件名:

`if file_name.isFile():

   sample_df=spark.read.format("com.crealytics.spark.excel").option("header", "false").load(objects+file_name) `

我正在尝试使用此代码读取我的 excel 文件,但出现找不到文件的错误。有人可以帮我解决这个问题吗?`

【问题讨论】:

    标签: pyspark pyspark-schema


    【解决方案1】:

    我认为在负载中你没有通过正确的路径。所以你得到错误文件未找到错误。

    试试这个你会得到输出。

    objects = dbutils.fs.ls(path)
    for file_name in objects:
      if file_name.isFile():
        if file_name[0].endswith("xlsx"): #optional
          sample_df=spark.read.format("com.crealytics.spark.excel").option("header", "true").load(file_name[0])
    

    【讨论】:

      猜你喜欢
      • 2021-05-16
      • 1970-01-01
      • 2017-07-01
      • 2016-09-12
      • 1970-01-01
      • 2021-12-17
      • 1970-01-01
      • 2021-08-11
      相关资源
      最近更新 更多