【问题标题】:How to upload milions object to google cloud storage如何将百万对象上传到谷歌云存储
【发布时间】:2014-11-20 01:12:05
【问题描述】:

Google 云存储 API(XML 或 Json)仅允许每秒上传 1 次。

https://cloud.google.com/storage/docs/concepts-techniques

您最多可以每秒更新一次特定对象。以超过每秒一次的速度更新特定对象可能会导致 503 Service Unavailable 错误。对不同对象的并发更新不受每秒更新一次的限制。

那么如何上传新的 2000 万个差异对象 google storage 呢?

P/s : 我的硬盘中有大约 20M 的小文件,所以我想将所有文件上传到谷歌云存储。

【问题讨论】:

  • 问题是,您是更新 1 个对象 2000 万次还是创建 2000 万个 new 对象?
  • 我的硬盘中有大约 20M 的小文件,所以我想将所有文件上传到谷歌云存储。
  • 那么可能使用命令行工具....

标签: google-cloud-storage


【解决方案1】:

对不起,这个措辞有些误导​​。您可以每秒上传一次具有相同对象名称的特定对象。如果您有一个桶foo 和一个对象bar,您应该只上传一个foo/bar 的新副本,大约每秒一次。

您可以在带宽允许的情况下以不同的速度上传具有不同名称的对象。

【讨论】:

  • 你确定吗?我使用 hadoop(仅限映射器)使用 google 存储,并且随机命中错误(后端错误 - 500 服务器状态)
  • 是的,非常确定。 500s 当然是可能的,但应该很少见。你经常出现吗?
猜你喜欢
  • 1970-01-01
  • 2020-07-04
  • 1970-01-01
  • 2021-06-09
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-10-02
  • 1970-01-01
相关资源
最近更新 更多