【问题标题】:Apache Nifi slow cluster issueApache Nifi 慢速集群问题
【发布时间】:2018-03-31 05:41:14
【问题描述】:

我正在为我的一个点击流项目使用 Apache nifi 来执行一些 ETL。

我目前通过以下基础设施获得大约 300 条消息/秒的流量:

  • 内存 - 16 GB
  • 交换 - 6 GB
  • CPU - 16 核
  • 磁盘 - 100GB(不需要持久性)
  • 集群 - 6 个节点

由于以下问题,整个集群 UI 变得非常缓慢

  • 处理器在发生某些故障时提供背压,这会消耗大量线程
  • 出处书写变得非常缓慢
  • 跨节点的心跳变慢 Cluster Heart beat

我有以下关于设置的问题

  • 推荐使用 RPG,因为它是一个 HTTP 调用,我用它来传播 跨所有节点,因为 EMQTT 存在问题 消费者群体的流程。
  • 建议分配的线程数是多少 每个内核?
  • 基础架构规模调整指南是什么
  • 对于具有高传入请求和大量用于转换的大量 JSON 解析的大型集群,调整参数是什么

【问题讨论】:

  • 你为 NiFi 配置的堆大小是多少?

标签: performance apache-nifi sizing


【解决方案1】:

一些建议

  • 是的,推荐使用 RPG,至少从我的经验来看,RPG 似乎提供了更好的分布。看看下面的[3]
  • 有些处理器比其他处理器占用大量 CPU,因此对于可以为 Concurrent Tasks 设置什么值没有明确的答案。这更多是您必须掌握的反复试验或测试和微调方法。一种建议是,如果您为 CPU 密集型处理器设置过多的Concurrent Tasks,则会对节点产生严重影响。
  • Hortonworks 已为此制定了详细指南。我已经提供了下面的链接。 [1]

一些最佳做法和方便的指南:

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多