【问题标题】:how to rotate file while doing a streaming transfer to google cloud storage如何在流式传输到谷歌云存储时旋转文件
【发布时间】:2016-01-13 02:41:17
【问题描述】:

我们正在开发一个 POC,我们希望将我们的网络日志流式传输到谷歌云存储。我们了解到,谷歌云存储上的对象是不可变的,不能从 java api 附加。但是,我们可以根据此链接使用 gsutil 进行流传输https://cloud.google.com/storage/docs/concepts-techniques?hl=en#streaming 现在我们想编写每小时文件。有没有办法像 logrotate 一样每小时更改文件名?

【问题讨论】:

    标签: google-cloud-storage google-cloud-platform


    【解决方案1】:

    gsutil 不提供任何 logrotate 样式的对象命名功能。

    通过 gsutil 流传输,生成的云对象根据您的 gsutil cp 命令中的目标对象进行命名。为了实现轮换,生成流的作业可以每小时关闭一次流,选择一个新文件名,然后发出一个新的流式 gsutil cp 命令。

    【讨论】:

    • 感谢您的更新。我们刚刚发现 gcsfuse 实用程序可以解决我们的问题。我们现在正在尝试。很快就会更新。
    猜你喜欢
    • 1970-01-01
    • 2019-12-10
    • 2020-08-26
    • 1970-01-01
    • 1970-01-01
    • 2020-11-23
    • 2018-04-02
    • 2017-04-08
    • 1970-01-01
    相关资源
    最近更新 更多