hive distict 和 count 操作reducer只有一个的问题

简介:

select count(distinct *) from table;

这样写会生成一个job 只有一个reducer执行,可以改为如下:

select count(*) from (

select distinct * from table) t;

这样生成两个job,可有多个reducer执行,效率提升










本文转自 落花非有意  51CTO博客,原文链接:http://blog.51cto.com/1992zhong/1749452,如需转载请自行联系原作者
目录
相关文章
|
3月前
|
SQL Java 数据库连接
java链接hive数据库实现增删改查操作
java链接hive数据库实现增删改查操作
146 0
|
5月前
|
SQL Java 数据库连接
Hive教程(08)- JDBC操作Hive
Hive教程(08)- JDBC操作Hive
163 0
|
5月前
|
SQL 存储 分布式计算
Hive的简单操作
Hive的简单操作
29 0
|
5月前
|
SQL 缓存 分布式计算
54 Hive的Join操作
54 Hive的Join操作
51 0
|
5月前
|
SQL HIVE
53 Hive的SELECT操作
53 Hive的SELECT操作
28 0
|
4月前
|
SQL 分布式计算 数据库
【大数据技术Spark】Spark SQL操作Dataframe、读写MySQL、Hive数据库实战(附源码)
【大数据技术Spark】Spark SQL操作Dataframe、读写MySQL、Hive数据库实战(附源码)
96 0
|
6月前
|
SQL 存储 分布式计算
数仓 Hive HA 介绍与实战操作
数仓 Hive HA 介绍与实战操作
|
7天前
|
SQL 数据库 HIVE
Hive【基础知识 05】常用DDL操作(数据库操作+创建表+修改表+清空删除表+其他命令)
【4月更文挑战第8天】Hive【基础知识 05】常用DDL操作(数据库操作+创建表+修改表+清空删除表+其他命令)
17 0
|
3月前
|
SQL 数据库 HIVE
python链接hive数据库实现增删改查操作
python链接hive数据库实现增删改查操作
139 0
|
5月前
|
SQL HIVE Perl
52 Hive的Insert操作
52 Hive的Insert操作
48 0