为什么 fluentd-cloudwatch Kube daemonSet 无法将日志从特定目录发送到 cloudwatch？答案

【问题标题】：Why fluentd-cloudwatch Kube deamonSet cannot send logs from specified dir to cloudwatch?为什么 fluentd-cloudwatch Kube daemonSet 无法将日志从特定目录发送到 cloudwatch？
【发布时间】：2019-11-21 03:15:04
【问题描述】：

我使用配置文件在 EKS 中应用了 fluentd-cloudwatch DeamonSet：fluentd.yml

情况一：line 302 - line 313 在fluentd.yml 中发表评论，一切正常。我可以在 CLOUDWATCH PANEL 中看到新创建的日志组和日志流。

情况二：line 302 - line 313 在fluentd.yml 中未注释，fluentd 无法将任何日志数据发送到 CLOUDWATCH。 日志组和日志流不会自动创建。

我检查了 fluentd-cloudwatch pod 中是否存在文件 /logs/fun-practice-log/server.log.0。 server.log.0中的内容如下：

unknown - 2019-11-21 00:42:44,588 - WARNING - 404 GET /latest/dynamic/instance-identity/document (10.10.130.37) 0.38ms
unknown - 2019-11-21 00:42:44,818 - WARNING - 405 CONNECT 34.116.211.122:80 (10.10.130.217) 0.51ms
unknown - 2019-11-21 00:42:45,752 - WARNING - 405 CONNECT 34.116.211.122:80 (10.10.130.217) 0.64ms
f6c5a62f536a4444bbb12c0e45973141 - 2019-11-21 02:17:19,605 - INFO - 200 POST /fun_practice/v1.1/get_stat?user_token=seYBtp39Uko0lfsYoDBrQlZV8SWuF (10.0.15.188) 895.95ms

我想使用source 将文件夹/logs/fun-practice-log/ 中的日志流式传输到CLOUDWATCH，如下所示，我无法弄清楚我在配置文件中遗漏了什么。

    <source>
      @type tail
      @id in_tail_svc
      @label @hostlogs
      path /logs/fun-practice-log/server.log.0
      pos_file /logs/fun-practice-log/server.log.pos
      tag host.svc
      read_from_head true
      refresh_interval 5
      <parse>
        @type regexp
        expression /(?<request_id>[^ ]*) - (?<timestamp>\d{4}-\d{2}-\d{2}\s\d{2}:\d{2}:\d{2},\d{3}) - (?<log_type>[^ ]*) - (?<message>.*)/
        time_key timestamp
        time_format %Y-%m-%d %H:%M:%S,%z
      </parse>
    </source>

【问题讨论】：

标签： amazon-cloudwatch fluentd amazon-eks

【解决方案1】：

我终于弄清楚我在fluentd.yml 中做错了什么。我不应该将mountPath: /logs/account-svc-log 和mountPath: /logs/fun-practice-log 设置为readOnly: true。只需删除 args，一切正常。

【讨论】：

ret readOnly: true 使 fluentd 无法在该路径中记录。这会导致一些问题。