hive join

简介:
hive0.11之前,默认的join方式是reduce端join,即shuffle join(hive.auto.convert.join默认为false),其原理是map的输出数据通过hash进行partition,然后shuffle至对应的reduce端,执行join.如果join key分布不均匀,则会造成一定的数据倾斜,比较明显的现象就是某一个reduce会一直运行在99%,在join运行完毕后,可以通过job的counter看到,reduce处理的数据量相差很大。
  join中还有一个方式是map join,即在map 端进行join,其原理是broadcast join,即把小表作为一个完整的驱动表来进行join操作。这种方式比较适合表中有一个小表的情况(比如过比较大,可能会出现oom的情况),hive是rbo的方法来执行操作的,所以需要把小表放在前面,不过也可以手动指定hint,比如/*+ mapjoin(a)*/。

hive 0.11之后,在表的大小符合设置时(hive.auto.convert.join.noconditionaltask=true ,hive.auto.convert.join.noconditionaltask.size=10000,hive.mapjoin.smalltable.filesize=25000000),默认会把join转换为map join(认 hive.ignore.mapjoin.hint为true,hive.auto.convert.join为true),不过hive0.11的map join bug比较多,可以通过在默认关闭map join convert,在需要时再设置hint:
hive.auto.convert.join=false

hive.ignore.mapjoin.hint=false.

还有另外的一些join方式,以后再说。。。



本文转自菜菜光 51CTO博客,原文链接:http://blog.51cto.com/caiguangguang/1376183,如需转载请自行联系原作者

相关文章
|
8月前
|
SQL 缓存 分布式计算
54 Hive的Join操作
54 Hive的Join操作
74 0
|
10月前
|
SQL 存储 大数据
大数据Hive Join连接查询
大数据Hive Join连接查询
62 0
|
SQL HIVE
hive:条件查询、join关联查询、分组聚合、子查询
hive:条件查询、join关联查询、分组聚合、子查询
656 0
hive:条件查询、join关联查询、分组聚合、子查询
Hive中的in、exists和left semi join
Hive中的in、exists和left semi join
Hive中的in、exists和left semi join
|
SQL 消息中间件 监控
​实战:Flink 1.12 维表 Join Hive 最新分区功能体验
我们生产常有将实时数据流与 Hive 维表 join 来丰富数据的需求,其中 Hive 表是分区表,业务上需要关联上 Hive 最新分区的数据。上周 Flink 1.12 发布了,刚好支撑了这种业务场景,我也将 1.12 版本部署后做了一个线上需求并上线。对比之前生产环境中实现方案,最新分区直接作为时态表提升了很多开发效率,在这里做一些小的分享。
​实战:Flink 1.12 维表 Join Hive 最新分区功能体验
|
SQL HIVE 关系型数据库
|
SQL HIVE 测试技术
Hive连接JOIN用例详解(转载)
转自: https://my.oschina.net/iamchenli/blog/845850 http://www.cnblogs.com/xing901022/p/5804836.html
803 0