【发布时间】:2019-08-28 15:57:22
【问题描述】:
我有一个包含 300 个 kafka 代理的 spark 流应用程序(主机 [101-301]:9092)。如果要添加新的代理,比如 host302:9092,spark 流应用程序会自动发现这个代理吗?还是我需要停止我的应用程序、更新配置并重新运行 spark 流应用程序?提前致谢!
【问题讨论】:
标签: apache-kafka spark-streaming
我有一个包含 300 个 kafka 代理的 spark 流应用程序(主机 [101-301]:9092)。如果要添加新的代理,比如 host302:9092,spark 流应用程序会自动发现这个代理吗?还是我需要停止我的应用程序、更新配置并重新运行 spark 流应用程序?提前致谢!
【问题讨论】:
标签: apache-kafka spark-streaming
不,你不需要重新配置和启动。
引用权威来源,例如
https://jaceklaskowski.gitbooks.io/apache-kafka/kafka-properties-bootstrap-servers.html
以下关于
bootstrap.server 属性
由于这些服务器仅用于 初始连接以发现完整的集群成员(可能 动态变化),这个列表不必包含完整的集合 服务器数量(不过,您可能需要多个服务器,以防一台服务器 下)。
【讨论】: