【问题标题】:Cloudera CDH 5.13 - is it possible to run spark 2.x with Yarn mode?Cloudera CDH 5.13 - 是否可以使用 Yarn 模式运行 spark 2.x?
【发布时间】:2019-04-08 16:52:27
【问题描述】:

团队,

在我的本地计算机上安装了 CDH 5.13 版本,并从 spark 1.6 升级到 spark 2.0。是否可以使用纱线模式运行火花应用程序。请确认 。否则它将作为独立模式工作。

【问题讨论】:

    标签: apache-spark cloudera cloudera-manager


    【解决方案1】:

    是的。两种模式都支持。

    不再支持从 CDH 6.x Stand Alone。

    【讨论】:

    • 我在我的 CDH 版本 (Cloudera Expression 5.13.0) 中尝试过。添加时出现以下异常 * CSD 版本 (2.2.0.cloudera2) 与当前 * Spark 2 版本不兼容 ( )。更新您的 CSD 或 * 确保您安装了正确的 Spark 版本并 * 激活。 **********
    • 添加这个罐子:SPARK2_ON_YARN-2.2.0.cloudera2.jar。我添加了正确的罐子..?如果不能,请建议我下载正确的 jar
    • 您的问题是是否支持。这些是不同的问题。如果出于学习目的使用已安装 2.x 的 VM。
    • @thebluephantom - 我最近下载了 Cloudera (5.13) 的快速启动 VM。但我没有发现其中已经存在 Spark 2。我不得不使用 Spark2 的 CSD 手动安装它
    • 这就是我使用mapr的原因。
    【解决方案2】:

    YARN 支持独立模式和集群模式。我已经使用了它们,它们在 Cloudera 5.11 + Spark2 设置上运行良好。

    【讨论】:

      猜你喜欢
      • 2016-01-23
      • 1970-01-01
      • 1970-01-01
      • 2017-05-20
      • 1970-01-01
      • 2020-07-18
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多