Sqoop splitkey支持的类型

简介:

前阶段一个Sqoop抽取Job指定了一个xxx_id作为splitkey,后来抽取失败;想当然以为PK就是int,发现其实是varcharhttps://issues.apache.org/jira/browse/SQOOP-653还不被支持),后来换了一列抽取成功;

Sqoopsplitkey在文档里只是简单的介绍了算法,但是没有介绍具体支持的splitkeycolumn type查看源码支持的类型如下:BigDecimal,Boolean,Date,Float,Integer

BigDecimalSplitter.java

BooleanSplitter.java

DBSplitter.java

DateSplitter.java

FloatSplitter.java

IntegerSplitter.java

OracleDateSplitter.java

另外,关于int作为splitkey还有一个bug就是当int的范围特别小的时候,最后一个mapper会有一定倾斜




本文转自MIKE老毕 51CTO博客,原文链接:http://blog.51cto.com/boylook/1298635,如需转载请自行联系原作者


相关文章
|
3月前
|
SQL Java 分布式数据库
Flink CDC HBase字段类型与Flink SQL类型之间的转换
【1月更文挑战第4天】【1月更文挑战第19篇】Flink CDC HBase字段类型与Flink SQL类型之间的转换
63 1
|
10天前
|
SQL HIVE
Hive【基础知识 04】【Hive 属性配置的三种方式及配置的优先级说明】
【4月更文挑战第7天】Hive【基础知识 04】【Hive 属性配置的三种方式及配置的优先级说明】
13 0
|
1月前
|
SQL Java 数据库
Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
【2月更文挑战第10天】Sqoop【付诸实践 02】Sqoop1最新版 全库导入 + 数据过滤 + 字段类型支持 说明及举例代码(query参数及字段类型强制转换)
26 0
|
5月前
|
SQL 存储 Java
Hive教程(04)- Hive数据类型
Hive教程(04)- Hive数据类型
89 0
|
6月前
|
SQL 存储 Java
如何更改 datax 以支持hive 的 DECIMAL 数据类型?
如何更改 datax 以支持hive 的 DECIMAL 数据类型?
如何更改 datax 以支持hive 的 DECIMAL 数据类型?
|
SQL HIVE
hive设置显示当前库名称
hive设置显示当前库名称
|
SQL HIVE
HIVE 基本查询操作(二)——第2关:Hive数据类型和类型转换
HIVE 基本查询操作(二)——第2关:Hive数据类型和类型转换
637 0
|
SQL 关系型数据库 MySQL
通过sqoop将mysql数据导入到hive中进行计算示例
通过sqoop将mysql数据导入到hive中进行计算示例
116 0
通过sqoop将mysql数据导入到hive中进行计算示例
|
SQL 关系型数据库 MySQL