开发者社区> 问答> 正文

Hiva中Tez计算引擎是什么?

Hiva中Tez计算引擎是什么?

展开
收起
游客5n3d3br4o5qn4 2021-12-06 23:40:39 465 0
1 条回答
写回答
取消 提交回答
  • Apache Tez是进行大规模数据处理且支持DAG作业的计算框架,它直接源于MapReduce框架,除了能够支持MapReduce特性,还支持新的作业形式,并允许不同类型的作业能够在一个集群中运行。

    Tez将原有的Map和Reduce两个操作简化为一个概念——Vertex,并将原有的计算处理节点拆分成多个组成部分:Vertex Input、Vertex Output、Sorting、Shuffling和Merging。计算节点之间的数据通信被统称为Edge,这些分解后的元操作可以任意灵活组合,产生新的操作,这些操作经过一些控制程序组装后,可形成一个大的DAG作业。

    通过允许Apache Hive运行复杂的DAG任务,Tez可以用来处理数据,之前需要多个MR jobs,现在一个Tez任务中。

    2021-12-06 23:41:04
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
MaxComputeSQL2.0全新的计算引擎 立即下载
Flink+HBase场景化解决方案 立即下载
Blink计算引擎 立即下载

相关实验场景

更多