【问题标题】:How BroadcastHashJoin exacly work in spark?BroadcastHashJoin 如何在 spark 中准确工作?
【发布时间】:2015-12-17 01:09:20
【问题描述】:

我试图了解广播HashJoin 是如何执行的。 我知道小表正在向所有节点发送广播,但是接下来将结果发送回驱动程序? 我正在使用 spark ui 来了解网络流量的管理方式,但我没有得到相关结果,并且驱动程序结果始终为空: 为什么我看不到司机的路况?

【问题讨论】:

    标签: join apache-spark


    【解决方案1】:
    1. 要向驱动程序广播is collected 的关系
    2. 在本地收集关系is hashed
    3. 散列关系用于create a broadcast variable
    4. Broadcasted relation is used 并行计算连接

    您看到的驱动程序中缺少的数据很可能对应于 is not executed inside job 的散列部分,并且不会创建有用的指标。​​

    【讨论】:

      猜你喜欢
      • 2013-06-06
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2016-03-12
      • 2014-09-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多