【问题标题】:Hadoop : how to save web log to a local file?Hadoop:如何将 Web 日志保存到本地文件?
【发布时间】:2021-05-18 14:24:42
【问题描述】:

我想知道是否可以将作业(容器)的 hadoop(纱线)网络日志保存到本地文件?现在我可以检查浏览器中的所有日志,但是当日志太长时,我的浏览器会崩溃。而且我无法访问数据湖。将网络日志保存到我可以在本地分析的文件的最佳方法是什么?

【问题讨论】:

    标签: hadoop hadoop-yarn


    【解决方案1】:

    您可以使用 yarn logs -applicationId 命令,通过 shell 重定向输出到文件

    或者您可以从运行代码的节点管理器中 SCP 文件

    更好的解决方案包括设置日志收集器,例如 Fluentd 或 Filebeat,将日志流式传输到 Elasticsearch 中进行分析

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2021-07-13
      • 2011-02-20
      • 2022-01-22
      • 2017-09-25
      • 1970-01-01
      • 2023-01-29
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多