【问题标题】:It there some way for bulk upload of million files to Azure Blob Storage?是否有办法将数百万个文件批量上传到 Azure Blob 存储?
【发布时间】:2018-08-13 08:44:58
【问题描述】:

我有数亿个小文件 ~50KB。是否可以将其作为一个或几个部分上传到 Azure Blob 存储,以节省时间和金钱(不为每个文件支付单个写入操作)?

【问题讨论】:

  • 如果我的数学计算正确,假设您将所有文件压缩在一起,文件的总大小将约为 4.65 TB(未压缩),低于块 blob 的 4.75 TB 限制,所以我会说是的,这是可能的。
  • 但是当您想要访问其中一个文件时,您可以下载整个 blob。冷却层和存档层对出口收费。 Hot 会花费你更多的钱。谁知道你的服务提供商会怎么想拉下 4+TB 的数据。确保你对所有事情都负责。
  • 我想在 Azure Blob 存储上解压我的所有文件,我的问题是关于批量上传数百万个文件的某种方式。
  • 正如另一个 SO thread 提到的那样,解压缩不受天真的支持。详情请参考feedback

标签: azure azure-storage azure-blob-storage


【解决方案1】:

我目前正在调查同一件事。根据我的一些估计,将我们的文件上传到 Azure 存储大约需要 40 个小时。

我遇到的唯一选择是使用Azure Import/Export Service,这涉及在 1 个或多个 HHD 上物理发送您的文件,并在 Azure 中创建一个作业以在数据中心插入驱动器时传输文件.

【讨论】:

  • 非常感谢,看来 DHL 将能够更快更便宜地传输我的数百万个小文件,然后我可以通过上传来完成。
猜你喜欢
  • 1970-01-01
  • 2016-08-18
  • 2017-01-24
  • 2017-08-19
  • 2011-10-12
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2019-07-10
相关资源
最近更新 更多