【问题标题】:Difference between YARN deployment modes - CLUSTER and CLIENT modes on the machine with a node managerYARN 部署模式之间的区别 - 具有节点管理器的机器上的 CLUSTER 和 CLIENT 模式
【发布时间】:2017-09-12 09:28:47
【问题描述】:

对我来说,唯一的区别是,在第一种情况下,驱动程序将位于 App Master JVM 内,而在上面的客户端模式配置旁边。这两种情况有什么不同?

【问题讨论】:

    标签: apache-spark cluster-computing


    【解决方案1】:

    Spark 部署模式 - 客户端 vs 集群

    客户端模式

    • 它是交互式的。如果你想在你的机器(客户端——Driver程序)上得到一个工作结果(动态分析),客户端部署模式是非常有用的。
    • 更易于开发/调试。
    • 最终用户可以控制驱动程序的运行位置
    • 始终启动应用程序:将 Spark 作业启动器公开为 REST 服务或 Web UI。

    集群模式

    • 更容易分配资源(让主人决定):一劳永逸
    • 由于这种 Fire-N-Forget 行为,最好在集群模式下提交耗时的、资源密集型作业。
    • 监控驱动程序是从 Master Web UI 完成的,就像其他工作人员一样。 (不是来自客户端机器)
    • 最后停止:作业完成后,分配的资源会自动释放。
    • 在集群模式下,如果驱动程序出现问题,YARN 会重新启动驱动程序而不杀死执行程序。
    • 在客户端模式下,如果您的驱动程序被杀死,YARN 会自动杀死所有执行程序。

    【讨论】:

    • 很好的答案,非常感谢。在性能方面,两者有很大区别吗(我说的是速度)?
    • 性能方面,您不会发现任何差异;重要的是如何将作业提交到火花集群。
    猜你喜欢
    • 1970-01-01
    • 2016-01-18
    • 2010-11-28
    • 2013-09-08
    • 2011-04-15
    • 1970-01-01
    • 1970-01-01
    • 2022-01-23
    相关资源
    最近更新 更多