【发布时间】:2017-12-25 17:08:19
【问题描述】:
我制作了只有 1 个工作节点的 yarn-cluster,当我提交我的 spark 应用程序作业时,它似乎工作正常。当我提交多个作业时,作业在 hadoop 队列中并一一处理提交的应用程序。我想并行处理我的申请,而不是一一处理。有什么配置吗?还是无法在纱线上做到这一点?
【问题讨论】:
标签: hadoop hadoop-yarn
我制作了只有 1 个工作节点的 yarn-cluster,当我提交我的 spark 应用程序作业时,它似乎工作正常。当我提交多个作业时,作业在 hadoop 队列中并一一处理提交的应用程序。我想并行处理我的申请,而不是一一处理。有什么配置吗?还是无法在纱线上做到这一点?
【问题讨论】:
标签: hadoop hadoop-yarn
Yarn 默认一个一个地提交作业。 对于提交多个作业,您可以更改执行器核心的数量:
spark-submit class /jar --executor-memory 2g --num-executors 15 --executor-cores 3 --master yarn --deploy-mode cluster
您也可以在您的 yarn-site.xml 中更改此属性
【讨论】: