简单搞定MapReduce运行原理

1)分布式的运算程序往往需要分成至少2个阶段

2)第一个阶段的maptask并发实例,完全并行运行,互不相干

3)第二个阶段的reduce task并发实例互不相干,但是他们的数据依赖于上一个阶段的所有maptask并发实例的输出

4MapReduce编程模型只能包含一个map阶段和一个reduce阶段,如果用户的业务逻辑非常复杂,那就只能多个mapreduce程序,串行运行


简单搞定MapReduce运行原理


1)在MapReduce程序读取文件的输入目录上存放相应的文件。

2)客户端程序在submit()方法执行前,获取待处理的数据信息,然后根据集群中参数的配置形成一个任务分配规划。

3)客户端提交job.splitjar包、job.xml等文件给yarnyarn中的resourcemanager启动MRAppMaster

4MRAppMaster启动后根据本次job的描述信息,计算出需要的maptask实例数量,然后向集群申请机器启动相应数量的maptask进程。

5maptask利用客户指定的inputformat来读取数据,形成输入KV对。

6maptask将输入KV对传递给客户定义的map()方法,做逻辑运算

7map()运算完毕后将KV对收集到maptask缓存。

8maptask缓存中的KV对按照K分区排序后不断写到磁盘文件

9MRAppMaster监控到所有maptask进程任务完成之后,会根据客户指定的参数启动相应数量的reducetask进程,并告知reducetask进程要处理的数据分区。

10Reducetask进程启动之后,根据MRAppMaster告知的待处理数据所在位置,从若干台maptask运行所在机器上获取到若干个maptask输出结果文件,并在本地进行重新归并排序,然后按照相同keyKV为一个组,调用客户定义的reduce()方法进行逻辑运算。

11Reducetask运算完毕后,调用客户指定的outputformat将结果数据输出到外部存储。





相关文章:

  • 2021-04-21
  • 2021-07-23
  • 2022-01-06
  • 2022-12-23
  • 2022-12-23
  • 2021-12-05
  • 2021-11-20
猜你喜欢
  • 2021-12-20
  • 2021-06-12
  • 2021-11-14
  • 2021-04-02
  • 2021-04-05
  • 2022-02-16
  • 2021-11-30
相关资源
相似解决方案