【问题标题】:yarn - spark parallel job纱线 - 火花并行工作
【发布时间】:2017-12-25 17:08:19
【问题描述】:

我制作了只有 1 个工作节点的 yarn-cluster,当我提交我的 spark 应用程序作业时,它似乎工作正常。当我提交多个作业时,作业在 hadoop 队列中并一一处理提交的应用程序。我想并行处理我的申请,而不是一一处理。有什么配置吗?还是无法在纱线上做到这一点?

【问题讨论】:

    标签: hadoop hadoop-yarn


    【解决方案1】:

    Yarn 默认一个一个地提交作业。 对于提交多个作业,您可以更改执行器核心的数量:

    spark-submit class /jar --executor-memory 2g --num-executors 15 --executor-cores 3 --master yarn --deploy-mode cluster 
    

    您也可以在您的 yarn-site.xml 中更改此属性

    【讨论】:

      猜你喜欢
      • 2017-08-27
      • 1970-01-01
      • 2019-11-13
      • 1970-01-01
      • 2018-08-07
      • 2017-05-17
      • 1970-01-01
      • 1970-01-01
      • 2014-12-17
      相关资源
      最近更新 更多