8.1什么是DAG
DAG(Directed Acyclic Graph)叫做有向无环图,原始的RDD通过一系列的转换就形成了DAG,根据RDD之间依赖关系的不同将DAG划分成不同的Stage(调度阶段)。对于窄依赖,partition的转换处理在一个Stage中完成计算。对于宽依赖,由于有Shuffle的存在,只能在parent RDD处理完成后,才能开始接下来的计算,因此宽依赖是划分Stage的依据。
spark笔记之DAG的生成

转载于:https://blog.51cto.com/13587708/2159586

相关文章:

  • 2021-10-01
  • 2021-05-05
  • 2021-06-08
  • 2022-12-23
  • 2022-12-23
  • 2021-10-17
  • 2021-06-08
  • 2021-04-08
猜你喜欢
  • 2021-11-13
  • 2021-08-27
  • 2021-07-29
  • 2021-11-03
  • 2021-12-27
相关资源
相似解决方案