MaxCompute SQL Row_Sequence 实现列自增长

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 通过MaxCompute UDF来给海量数据的每一行产生唯一的id

背景:多维数据仓库中的维度表和事实表一般都需要有一个代理键,作为这些表的主键,代理键一般由单列的自增数字序列构成。MaxCompute(原ODPS)没有关系数据库中的自增列 auto-increment id但可以通过UDF来给海量数据的每一行产生唯一的id。


效果如下:

select  row_sequence(),name from user_info;




一、准备工作

1、准备阿里云账号,文档参考:https://help.aliyun.com/document_detail/27803.html

2、开通大数据开发套件、MaxCompute服务。文档参考:https://help.aliyun.com/document_detail/27815.html



二、通过Eclipse创建UDF


1、在Eclipse环境中,新建Row_Sequence.java,代码如下


package com.aliyun.odps.examples.udf;
import com.aliyun.odps.io.LongWritable;
import com.aliyun.odps.udf.UDF;

public class Row_Sequence   extends UDF {
	
	 private LongWritable result = new LongWritable();

	  public Row_Sequence () {
	    result.set(0);
	  }

	  
    public String evaluate() {
    	result.set(result.get() + 1);
        return result.toString();
    }
}


2、导出为Row_Sequence.JAR





三、通过大数据开发套件注册函数


1、通过大数据开发数据开发->资源管理,上传Row_Sequence.JAR资源。



2、通过大数据开发数据开发->函数管理,注册row_sequence函数。



四、通过大数据开发套件验证


1、通过SQL查询结果


select row_sequence(),name  from user_info;




我们可以看到,通过UDF可以完成列增长效果,由于MaxCompute读取数据是无序的,所以还需要把数据insert overwrite table到新表中。


注意:本教程UDF在小规模数据单节点是可行的,如果是海量数据多节点并行,会出现重复数,建议用uuid()函数;


select uuid() as id,* from user_info ;


bba01b493e1c5d904e882b1c380673c6ebe49a98





 


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
8月前
|
SQL 数据库
Doris将查询的结果数据直接insert到另一个表的语法
【4月更文挑战第20天】Doris将查询的结果数据直接insert到另一个表的语法
600 0
|
8月前
Hologres的INSERT ON CONFLICT语法暂时不支持多个values的直接插入
Hologres的INSERT ON CONFLICT语法暂时不支持多个values的直接插入
69 2
|
SQL 分布式计算 数据库
HIVE表 DML 操作——第3关:将 select 查询结果插入 hive 表中
HIVE表 DML 操作——第3关:将 select 查询结果插入 hive 表中
1135 1
|
8月前
|
SQL Oracle 关系型数据库
SQL ALTER TABLE 语句- 灵活修改表结构和数据类型
SQL ALTER TABLE 语句用于在现有表中添加、删除或修改列,也可用于添加和删除各种约束。
219 0
|
SQL 索引
查询SQL尽量不要使用select *,而是具体字段
查询SQL尽量不要使用select *,而是具体字段
|
SQL 索引
一、查询SQL尽量不要使用select *,而是具体字段
一、查询SQL尽量不要使用select *,而是具体字段
139 0
|
SQL
SQL 语句把 "Persons" 表中的 "P_Id
SQL 语句把 "Persons" 表中的 "P_Id
118 0
|
SQL 关系型数据库 MySQL
Mysql常用sql语句(4)- distinct 去重数据
Mysql常用sql语句(4)- distinct 去重数据
575 0
Mysql常用sql语句(4)- distinct 去重数据
|
SQL
SQL: select非group by的字段
SQL: select非group by的字段
731 0
|
SQL 分布式计算 MaxCompute
解决MaxCompute SQL count distinct多个字段的方法
按照惯性思维,统计一个字段去重后的条数我们的sql写起来如下: Distinct的作用是用于从指定集合中消除重复的元组,经常和count搭档工作,语法如下 COUNT( { [ DISTINCT ] expression ] | * } ) 这时,可能会碰到如下情况,你想统计同时有多列字段重复的数目,你可能会立马想到如下方法: select count( distinct col1 , col2 , col3 , .......) from table 但是,这样是有问题的,如果值包含空,那么我们的结果是什么呢?如果你实验过,正如你实验的一样,结果会比实际少。
5423 0

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 下一篇
    开通oss服务