【问题标题】:SnappyData - configuring streaming job spark settingsSnappyData - 配置流式作业火花设置
【发布时间】:2016-08-31 12:39:27
【问题描述】:

我可以看到在创建流式应用程序时如何配置 SparkConf (see here)

我假设我可以通过 SnappyStreamingContext 为类似于流应用程序的流作业配置 SparkConf。假设我在流式作业中获得了 SparkConf 的句柄并修改了一些设置。这些设置是否仅适用于该流式传输作业,还是适用于所有作业的全局配置更新?

谢谢!

【问题讨论】:

    标签: apache-spark configuration snappydata


    【解决方案1】:

    是的,您可以通过 SnappyStreamingContext 为流式作业配置 SparkConf,它与 Spark 流式配置相同。由于 SparkConf 是一个全局配置,它适用于流式应用程序中的所有作业。我认为 Spark 不允许您在启动应用程序后更改 SparkConf。

    【讨论】:

      猜你喜欢
      • 2019-07-30
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-11-08
      • 2015-12-11
      • 1970-01-01
      • 2020-03-10
      • 1970-01-01
      相关资源
      最近更新 更多