【问题标题】:cannot import s3fs in pyspark无法在 pyspark 中导入 s3fs
【发布时间】:2021-07-15 23:29:37
【问题描述】:

当我尝试使用以下代码在 pyspark 中导入 s3fs 库时:

import s3fs

我收到以下错误:

遇到错误:无法从以下位置导入名称“maybe_sync” 'fsspec.asyn' (/usr/local/lib/python3.7/site-packages/fsspec/asyn.py) Traceback(最近一次通话最后一次):文件 “/usr/local/lib/python3.7/site-packages/s3fs/init.py”,第 1 行,在 从 .core 导入 S3FileSystem,S3File 文件“/usr/local/lib/python3.7/site-packages/s3fs/core.py”,第 12 行,在 从 fsspec.asyn 导入 AsyncFileSystem、sync、sync_wrapper、maybe_sync ImportError:无法导入名称“maybe_sync” 'fsspec.asyn' (/usr/local/lib/python3.7/site-packages/fsspec/asyn.py)

fsspec 软件包已安装在我的笔记本中。而我其实已经用了很长时间了,突然发生了这种情况。 我试过谷歌搜索,但找不到这个特定的错误。 有没有人遇到过这个?如果是这样,你知道如何解决吗?

【问题讨论】:

    标签: apache-spark amazon-s3 pyspark filesystems python-s3fs


    【解决方案1】:

    很高兴听到这不仅仅是我。看起来如果你 pip 安装版本 s3fs==0.5.1 和 fsspec==0.8.3,应该可以解决它。

    【讨论】:

    • 是的,有效。此外,您必须更改引导设置以安装旧版本的 fsspecs3fs。这个问题是因为 s3fs 在 4 月 20 日发布了一个新版本,它没有使用旧 fsspec 中的功能之一。他们需要允许向后兼容:(
    猜你喜欢
    • 2020-06-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-10-12
    • 1970-01-01
    相关资源
    最近更新 更多