【问题标题】:GCS bucket update frequency ,how do I set it?GCS存储桶更新频率,如何设置?
【发布时间】:2020-02-14 22:36:18
【问题描述】:

我正在尝试使用 logstash 通过下面的输出插件将消息推送到 GCS。我可以看到存储桶中的消息,但是它们每小时出现一次,而不是实时出现。在哪里可以更改日志发送的频率?

https://www.elastic.co/guide/en/logstash/current/plugins-outputs-google_cloud_storage.html

P.S:我尝试将其添加到我的配置文件中,但没有用: flush_interval_secs => 2

我的配置看起来像这样:

input{
kafka {
    zk_connect => "xxxxxxxxxxxxxxxxxxxxxx"
    group_id => "yyyyyyyyyyyyyyyyyyyyyyyyyyyy"
    topic_id => "zzzzzzzzzzzzzzzzz"
    reset_beginning => true
    auto_offset_reset => "smallest"
    }
}
output
{
    google_cloud_storage {
       bucket => "aaaa/bbb"
       flush_interval_secs => 15
    }
    stdout
         {
              codec => rubydebug
         }
}

【问题讨论】:

    标签: google-cloud-platform logstash elastic-stack


    【解决方案1】:

    来自Documentation

    上传新文件到 GCS 时的上传时间间隔。根据您的时间模式调整时间(例如,对于每小时文件,此时间间隔可能约为一小时)。

    默认值为 60。

    例子:

    output {
       google_cloud_storage {
         bucket => "my_bucket"                                     (required)
         date_pattern => "%Y-%m-%dT%H:00"                          (optional)
         uploader_interval_secs => 60                              (optional)
       }
    }
    

    此外,您还可以设置date_pattern,这是日志文件的时间模式。

    【讨论】:

    • 我尝试设置 uploader_interval_secs 但存储桶似乎没有刷新。还有什么可以覆盖它的吗?
    • @learner 你可以尝试将 date_pattern 更改为 "%Y-%m-%dT%H:%M" 吗?
    猜你喜欢
    • 2021-12-03
    • 2021-11-27
    • 2020-09-17
    • 2021-02-21
    • 2022-01-11
    • 2020-04-27
    • 1970-01-01
    • 1970-01-01
    • 2022-10-16
    相关资源
    最近更新 更多