【问题标题】:Apache-Pulsar ThroughputApache-Pulsar 吞吐量
【发布时间】:2020-04-10 20:43:13
【问题描述】:

我在本地机器上独立运行 apache-pulsar 作为 docker 容器,用于排队系统并将 1000 个作业推送到一个主题(比如说“演示”)。

如果我有 1 位消费者正在收听“演示”主题并处理作业并确认(在 100 毫秒 - 500 毫秒内)。所有工作在大约 80 秒内完成。

但如果我对更多消费者(2 或 4 个消费者)进行相同的 1000 个作业测试,则总体吞吐量保持不变,大约 80 秒。

我不确定我是否缺少一些需要的配置,或者是否需要多个 pulsar 代理,或者我应该怎么做,如果我增加消费者,消费吞吐量也应该增加(如果有 2 个消费者,大约需要 40-45 秒)。

Docker 镜像:apachepulsar/pulsar

消费者选项: "subscriptionType": "共享", “接收者队列大小”:100, "ackTimeoutMillis": 1200000

谢谢!

【问题讨论】:

    标签: node.js throughput apache-pulsar


    【解决方案1】:

    您确定您实际上在运行多个消费者吗?它们在多个容器中吗?虚拟机?服务器?每人收到多少?

    他们是在使用异步还是同步?

    https://pulsar.apache.org/docs/en/concepts-messaging/

    什么版本的 NodeJS?什么版本的客户端?什么版本的 Pulsar?

    https://pulsar.apache.org/docs/en/client-libraries-node/#consumers

    尝试将队列大小增加到 1000

    要在一个地点接触所有 Pulsar 人,请报名参加峰会。

    https://streamnative.io/en/blog/community/2021-09-07-speakers-announced-for-pulsar-virtual-summit-europe-2021/

    【讨论】:

      【解决方案2】:

      只要消费者没有限制,就可以有多个消费者。 消费者可以从生产者那里获得所需的证书文件,消费者可以命名订阅名称。并且可以检查实际连接了哪些消费者。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2017-11-19
        • 1970-01-01
        • 2016-11-08
        • 2013-03-23
        • 2016-08-05
        • 2018-06-25
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多