Hive将SQL转化为MapReduce的过程:

  1. Antlr定义SQL的语法规则,完成SQL词法,语法解析,将SQL转化为抽象语法树AST Tree
  2. 遍历AST Tree,抽象出查询的基本组成单元QueryBlock
  3. 遍历QueryBlock,翻译为执行操作树OperatorTree
  4. 逻辑层优化器进行OperatorTree变换,合并不必要的ReduceSinkOperator,减少shuffle数据量
  5. 遍历OperatorTree,翻译为MapReduce任务
  6. 物理层优化器进行MapReduce任务的变换,生成最终的执行计划

相关文章:

  • 2021-05-31
  • 2022-12-23
  • 2021-06-06
  • 2021-10-09
  • 2022-03-02
  • 2021-05-19
猜你喜欢
  • 2022-02-19
  • 2022-12-23
  • 2021-11-19
  • 2022-12-23
  • 2021-11-14
  • 2021-07-28
  • 2021-06-15
相关资源
相似解决方案