【问题标题】:How to copy csv file from google storage to Azure Data Lake如何将 csv 文件从谷歌存储复制到 Azure Data Lake
【发布时间】:2019-05-17 08:50:44
【问题描述】:

我正在尝试使用 Python 将文件从 Google 存储上传到 Azure Data Lake。 按照这个网址:https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-data-operations-python#create-filesystem-client 但问题是文件在 Google 存储中而不是本地文件,所以我尝试使用 GCS 中文件的公共 URL 而不是本地文件路径,看起来像“https://storage.googleapis.com//.csv" , 但我收到无法打开文件的错误!!

enter image description here

以前有人这样做过,这是正确的方法还是有其他方法

问候

【问题讨论】:

    标签: azure google-cloud-storage azure-data-lake


    【解决方案1】:

    我假设您使用的 API 需要 lpath 来引用本地路径而不是另一个云路径。所以我看到了两个选择:

    1. 将文件从 Google 存储下载到您的本地位置,然后使用 ADLS API 从那里上传。
    2. 或者,使用 Azure 数据工厂之类的工具来协调数据移动,而无需进行本地复制。

    【讨论】:

    • 嗨迈克尔,确实我使用 lpath,第一个选项可能不适合我,因为我需要编写应用程序(Flask)并将其部署到 Google App Engine 并在 CRON 中安排它,我不不认为下载到本地路径会起作用!!也许我错了,我没有尝试过,第二个选项听起来不错,但它没有连接到谷歌存储的连接器,所以它必须是一个自定义活动,我不知道如何实现这个
    • 我建议添加 Azure 数据工厂标签,看看它们是否可以帮助数据移动。
    猜你喜欢
    • 2019-04-01
    • 2018-05-26
    • 2020-06-13
    • 2022-11-10
    • 2014-07-01
    • 1970-01-01
    • 1970-01-01
    • 2019-04-29
    • 1970-01-01
    相关资源
    最近更新 更多