【问题标题】:How does Spark use Netty?Spark 如何使用 Netty?
【发布时间】:2014-04-27 23:49:39
【问题描述】:

我知道 Storm 现在运行在 Netty 上用于节点之间的通信?

Apache Spark 是否也使用 Netty?如果有,以什么方式?

【问题讨论】:

    标签: netty apache-storm apache-spark


    【解决方案1】:

    Spark 使用 Akka Actor 进行 RPC 和消息传递,而后者又使用 Netty。

    此外,对于移动批量数据,使用 Netty。

    • 对于随机播放数据,可以选择使用 Netty。默认情况下,NIO 直接用于传输 shuffle 数据。
    • 对于广播数据(驱动程序到所有工作人员的数据传输),默认使用 Jetty。

    【讨论】:

    猜你喜欢
    • 2017-11-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-05-07
    • 2011-07-25
    • 2016-05-22
    • 1970-01-01
    • 2020-01-16
    相关资源
    最近更新 更多