【问题标题】:Save file locally in jupyterhub notebook running on EMR cluster在 EMR 集群上运行的 jupyterhub notebook 中本地保存文件
【发布时间】:2021-12-10 15:10:55
【问题描述】:

在 Amazon EMR 上使用 Jupyterhub 应用程序接口(通过 SSH 隧道)时,默认文件浏览器显示 /user/jovyan/tree。这是什么目录,如何将笔记本中的文件(比如 matplotlib 图)保存到本地空间?像

这样的常用技巧
os.chdir(sys.path[0])
print(os.getcwd())

显示/mnt/tmp,实际上看起来并不是本地目录。

【问题讨论】:

    标签: python pyspark jupyter-notebook amazon-emr jupyterhub


    【解决方案1】:

    您在EMR notebook 中运行的代码实际上保存在s3 中。默认情况下,它通常位于 notebooks 文件夹下名为 emr-resources 的存储桶中。

    尝试检查您的 s3,我相信如果您从 emr 笔记本中保存文件,它将可以保存在 s3 中(并且下次可用)

    【讨论】:

    • 我没有看到任何以这种方式命名的存储桶,只有日志文件
    • 它们可以有不同的名称,但它们会在那里,因为 s3 包含 emr 笔记本的内容
    猜你喜欢
    • 2020-10-31
    • 2021-08-06
    • 1970-01-01
    • 1970-01-01
    • 2019-11-08
    • 2020-08-18
    • 2023-01-29
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多