【问题标题】:Druid - Prevent new partition from getting created on each CSV ingestionDruid - 防止在每次 CSV 摄取时创建新分区
【发布时间】:2020-11-07 00:36:28
【问题描述】:

我有摄取规范

        "rollup": false,
        "segmentGranularity" : "day",
        "queryGranularity" : {
            "type": "duration",
            "duration": 60000
        }
      }
    },
    "ioConfig" : {
      "type" : "index",
      "inputSource" : {
        "type" : "local"
       },
       "inputFormat": {
         "type": "csv"
       },
       "appendToExisting": true
    }

每次调用 API 进行摄取时,都会创建新分区 有没有办法防止在每次摄取时创建新分区?

【问题讨论】:

    标签: druid


    【解决方案1】:

    Segments 是不可变的,因此在摄取时无法避免这种情况。 (德鲁伊不会写入现有段。)。不过,您可以稍后压缩这些段,例如参见 https://druid.apache.org/docs/latest/tutorials/tutorial-compaction.html 。在较新的版本中,您还可以启用自动压缩。例如,参见https://docs.imply.io/3.0/on-prem/manage-data/compaction

    【讨论】:

      猜你喜欢
      • 2014-08-23
      • 1970-01-01
      • 1970-01-01
      • 2011-09-26
      • 2021-08-02
      • 2020-10-13
      • 2018-07-19
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多