【问题标题】:How can I add a jar to a running spark context?如何将 jar 添加到正在运行的 spark 上下文中?
【发布时间】:2018-05-26 02:46:33
【问题描述】:

详细说明,我正在使用 livy 创建一个 spark 会话,然后将我的作业提交给 livy 客户端,该客户端在同一个 spark 会话中运行它们。现在,如果我需要在其中一个作业中添加一个新 jar 作为依赖项,有没有办法将 jar 放入正在运行的 spark 会话中?

我尝试过 spark.jars,但它只在创建会话时读取,而不是在已经运行的会话中读取。

谢谢

【问题讨论】:

    标签: apache-spark livy


    【解决方案1】:

    我不这么认为。我认为你也不能在 spark-shell 中做到这一点。如果可以的话,livy 的方法可能会变得清晰。尝试用谷歌搜索在 spark-shell 中执行此操作的方法,看看您是否有更好的运气获得答案。

    【讨论】:

      猜你喜欢
      • 2017-03-22
      • 2014-03-09
      • 2016-09-05
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2023-03-28
      • 2015-07-11
      相关资源
      最近更新 更多