【问题标题】:ELK stack - How do i backfill all old logs into elasticsearch?ELK 堆栈 - 我如何将所有旧日志回填到弹性搜索中?
【发布时间】:2017-06-27 22:50:06
【问题描述】:

我已经设置了 ELK + filebeat 并输入了日志,但想将所有旧日志回填到 logstash/ES 中。我怎样才能做到这一点?人们提到删除 sincedb 文件和/或将其添加到我的 logstash input.conf:

  file {
      path => "/var/log/xx/xx.log"
      start_position => "beginning"
      sincedb_path => "/dev/null"
     }

但是我将它添加到我的输入配置中并重新启动了 logstash,但在 Kibana 中仍然看不到旧日志。我也找不到大家参考的 sincedb_* 文件。我的 ELK 节点是 RHEL 服务器。

谢谢

【问题讨论】:

    标签: logging elasticsearch back fill elastic-stack


    【解决方案1】:

    如果这些文件是旧文件,最好将ignore_older => 0 添加到您的配置中。

      file {
          path => "/var/log/ptsfd-mms/ptsfd-mms.log"
          start_position => "beginning"
          sincedb_path => "/dev/null"
          ignore_older => 0
      }
    

    【讨论】:

    • 您好 Val,感谢您的反馈。将该参数添加到我的配置并重新启动 logstash 和 filebeat 并没有将我的日志回填到 Kibana。
    • 您可以使用--debug 启动logstash 并分享您的日志吗?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-10-09
    • 2023-03-28
    • 2018-03-10
    • 2023-03-07
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多