【问题标题】:What are the Kubernetes alternatives logging to ELK/EFK stack for Node.js apps对于 Node.js 应用程序记录到 ELK/EFK 堆栈的 Kubernetes 替代方案是什么
【发布时间】:2022-01-30 12:55:28
【问题描述】:

我已经开始编写一个非常复杂的指南,介绍如何在 DigitalOcean 上的 Kubernetes 集群上安装 EFK(Elasticsearch + Fluentd + Kibana)。这个过程产生了一个包含 3 个不同的 Elasticsearch Pod、3 个 Fluentd Pod 和 1 个 Kibana Pod 的命名空间。

CPU 从 5% 跃升至 95% - 永久。 RAM 从 34% 跃升至约 80% - 永久。

我没有停下来,继续尝试从岩石中取水 - 我已经转发了一个端口,以便我可以查看 Kibana 仪表板,它要求我提供索引名称。我尝试按照许多文章中的说明输入 logstash-*,但似乎 Kibana 不接受此输入,因此我从列表中选择了一些内容,但没有显示任何日志。

最终我在 5 小时后放弃了,并尝试删除命名空间 - 所以我可以清理这些操作。但命名空间保持状态:“Terminating” - 现在只要 3 小时。

我只有一个非常简单的 Node.js 应用,我想查看它的日志:

  1. 日期和时间
  2. 如果是错误,我想查看堆栈跟踪。
  3. 来自产生日志的节点。
  4. 如果还拥有整个系统的当前状态(cpu 和 ram),那就太棒了。

【问题讨论】:

  • 您是如何部署 EFK 的?收集日志,这是最好的选择之一。使用 Web UI、开源/无需订阅,您将没有太多选择。不过,您不需要 3 个 ES 节点,一个应该足以评估解决方案。终止中的命名空间:我敢打赌,您已经使用了 ElasticSearch 运算符。你终止了它。现在您的命名空间中有一个 ElasticSearch 对象,kubernetes 控制器不会自行删除该对象。告诉我们您是如何部署 EFK 的,以便我们弄清楚应该做什么。
  • 嘿,刚刚按照本指南逐行操作:digitalocean.com/community/tutorials/…
  • 好的,所以没有操作员......然后我会检查该命名空间中留下的对象,kubectl get sa,rolebinding,secrets,pvc,all -n kube-logging。也许也调查事件,kubectl get events -A -w。也许特定于 DO:尝试kubectl get crd:对于每个 crd,kubectl get <crd> -n kube-logging。告诉我们你会发现什么。如果没有任何异常,我们可能需要检查 kube-system 中的 kube-controller-manager pod 日志
  • 当我制作时:kubectl get sa,rolebinding,secrets,pvc,all -n kube-logging 我得到:在 kube-logging 命名空间中找不到资源。
  • 你好@Raz Buchnik。如果可以解决您的问题,请考虑accepting 的答案之一。

标签: kubernetes logging


【解决方案1】:

当 Kubernetes 无法删除命名空间中的某些资源时,命名空间会卡在终止状态。 here 是解决卡在终止中的有用文章之一。

我没有完全理解你的意图。

如果您正在为来自所有 pod(而不仅仅是一个命名空间)的日志寻找集中式解决方案,而不是在寻找像 Datadog 或 sumologic 之类的任何付费解决方案,那么 ELK 堆栈是最佳选择之一。添加 daemonset 的成本很高,因为 fluentd pod 将存在于每个节点中,如果您的解决方案仅适用于一个应用程序,这没有多大意义。

如果您只是对应用进行故障排除并且不想使用kubectl logs -l <your app label>,则可以使用lens 或八分圆来查看日志。

【讨论】:

    【解决方案2】:

    最终我放弃了,5小时后,并试图删除命名空间

    • 所以我可以清理这些操作。但命名空间保持状态:“Terminating” - 现在长达 3 小时。

    对于这个命名空间问题,您可以按照简单的解决方案,只需要从 YAML 配置中删除单行并保存配置:https://stackoverflow.com/a/57726448/5525824

    如果您只是想调试应用程序并需要日志,您可以使用kubectl get logs <PODs name>

    但是,如果您正在寻找与我们合作良好的解决方案,请使用 Graylog 和 UDP gelf 方法。

    Graylog 也在后台使用 Elasticsearch 和 MongoDB 但是在节点级别不需要收集器,而是您的应用程序将日志推送到 Graylog 使用 Gelf UDP 方法,因此不会消耗太多内存。

    阅读更多:https://www.graylog.org/

    头盔图:https://github.com/helm/charts/tree/master/stable/graylog

    什么是 GELF UDP?

    Graylog 扩展日志格式 (GELF) 是一种非常方便的日志 为处理经典纯文本的所有缺点而创建的格式 系统日志。此企业功能允许您收集结构化的 来自任何地方的事件,然后在瞬间压缩和分块它们 一只眼睛。

    这是将日志推送到 Graylog 的 NPM 库:https://www.npmjs.com/package/node-gelf

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2017-04-09
      • 2011-06-27
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2021-12-09
      • 2020-08-12
      相关资源
      最近更新 更多