MaxCompute SQL使用小技巧之行列转换

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 行列转换在业务需求分析经常使用,方法很多,这里介绍下使用Maxcomputer内置函数进行转换

行列转换根据具体业务需求有跟多方式,这里介绍下个人的想法,话不多说,上示例

案例行转列:有一张成绩表(如下)

name

subject

score

兮辰

语文

85

兮辰

数学

92

兮辰

英语

98

兮辰

体育

91

无尽

语文

90

无尽

数学

89

无尽

英语

93

无尽

体育

86

...

...

...

展示如下:

name

Chi

Math

Eng

P.E

兮辰

85

92

98

91

无尽

90

89

93

86

...

...

...

...

...

首先先生成示例数据

with tb as(select        name,        subject,        score
fromvalues('兮辰','语文',85),('兮辰','数学',92),('兮辰','英语',98),('兮辰','体育',91),('无尽','语文',90),('无尽','数学',89),('无尽','英语',93),('无尽','体育',86)               t(name,subject,score))

方式1:使用case when配合聚合函数max

select    name,    max(case when subject ='语文' then score end)as Chi,    max(case when subject ='数学' then score end)as Math,    max(case when subject ='英语' then score end)as Eng,    max(case when subject ='体育' then score end)as PE
from tb
groupby name;--结果如下:name chi math eng pe
兮辰  85929891无尽  90899386

方式2:使用collect_list函数(根据需求不同,也可以使用collect_list+array_contains组合方式)

--该方式也有弊端,必须保障原表各科目顺序是一致的,否则从数组里拿出来的成绩将不对应select    name,    score_list[0]as Chi,    score_list[1]as Math,    score_list[2]as Eng,    score_list[3]as PE
from(select        name,        collect_list(score)as score_list
from tb 
groupby name
)tmp;--结果如下:name  chi math  eng pe
兮辰  85929891无尽  90899386

方式3:使用keyvalue函数,详细使用方法见阿里云文档

https://help.aliyun.com/document_detail/48973.html?spm=a2c4g.11186623.6.833.2dd76fd0jGM2C7#section-lnq-tyz-vdb

--将字符串'1:a;2:b'拆分为Key-Value对,返回其中key为1的value值select keyvalue('1:a;2:b',1);--a
select    name,    keyvalue(subject,'语文')as Chi,    keyvalue(subject,'数学')as Math,    keyvalue(subject,'英语')as Eng,    keyvalue(subject,'体育')as PE
from(select        name,        wm_concat(';',concat(subject,':',score))as subject
from ta
groupby name
)tmp
--结果如下:name  chi math  eng pe
兮辰  85929891无尽  90899386

案例列转行:有一张成绩表(如下)

name

Chi

Math

Eng

P.E

兮辰

85

92

98

91

无尽

90

89

93

86

...

...

...

...

...

展示如下:

name

subject

score

兮辰

语文

85

兮辰

数学

92

兮辰

英语

98

兮辰

体育

91

无尽

语文

90

无尽

数学

89

无尽

英语

93

无尽

体育

86

...

...

...

首先生成示例数据

with tb as(select        name,        Chi,        Math,        Eng,        PE
fromvalues('兮辰',85,92,98,91),('无尽',90,89,93,86)                t(name,Chi,Math,Eng,PE))

方式1:使用union all,较为常用

select    name,    subject,    score
from(select name,'语文'as subject,Chi as score from tb
union all 
select name,'数学'as subject,Math as score from tb
union all 
select name,'英语'as subject,Eng as score from tb
union all 
select name,'体育'as subject,PE as score from tb
);--结果如下:name subject  score
兮辰  语文  85无尽  语文  90兮辰  数学  92无尽  数学  89兮辰  英语  98无尽  英语  93兮辰  体育  91无尽  体育  86

方式2:map函数+explode展开

select    name,    subject,    score
from(select            name,            map('语文',Chi,'数学',Math,'英语',Eng,'体育',PE
)as kv
from tb
) tmp 
lateral view explode(kv) t as subject,score;--结果如下:name subject  score
兮辰  体育  91兮辰  数学  92兮辰  英语  98兮辰  语文  85无尽  体育  86无尽  数学  89无尽  英语  93无尽  语文  90

方式3:使用trans_array函数:将一行数据转为多行的UDTF,将列中存储的以固定分隔符格式分隔的数组转为多行。具体使用方法见阿里云文档

https://help.aliyun.com/document_detail/48976.html?spm=a2c4g.11186623.6.834.7b052785nBNKFP#section-vxw-9dg-ypz

select    name,    split_part(subject,':',1)as subject,    split_part(subject,':',2)as result
from(select        trans_array(1,";",name,subject)as(name,subject)from(select            name,            concat('语文',':',Chi,';','数学',':',Math,';','英语',':',Eng,';','体育',':',PE)as subject
from tb
)tmp1
)tmp2;--结果如下:name  subject result
兮辰  语文  85兮辰  数学  92兮辰  英语  98兮辰  体育  91无尽  语文  90无尽  数学  89无尽  英语  93无尽  体育  86

上面的示例只是提供了一种思路,可能与具体的业务需求不同,有不同想法的欢迎交流。

拜了个拜

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
21天前
|
SQL 机器学习/深度学习 分布式计算
MaxCompute产品使用问题之如何调整改变SQL查询的严格性
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
21天前
|
SQL 分布式计算 前端开发
MaxCompute操作报错合集之SQL脚本设置参数set odps.mapred.reduce.tasks=18;没有生效,是为什么
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
19天前
|
SQL 大数据
常见大数据面试SQL-每年总成绩都有所提升的学生
一张学生成绩表(student_scores),有year-学年,subject-课程,student-学生,score-分数这四个字段,请完成如下问题: 问题1:每年每门学科排名第一的学生 问题2:每年总成绩都有所提升的学生
|
21天前
|
SQL 分布式计算 大数据
MaxCompute操作报错合集之使用spark.sql执行rename分区操作,遇到任务报错退出的情况,该怎么办
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
10天前
|
SQL 机器学习/深度学习 自然语言处理
大数据SQL助手:告别繁琐数据处理,轻松搞定SQL查询!
大数据SQL助手:告别繁琐数据处理,轻松搞定SQL查询!
16 0
|
21天前
|
SQL 分布式计算 大数据
MaxCompute操作报错合集之执行sql时,出现Cannot read properties of undefined (reading 'start')错误提示,该怎么办
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
21天前
|
SQL 分布式计算 大数据
MaxCompute产品使用问题之如何使用MaxCompute SQL客户端删除分区数据
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
21天前
|
SQL 分布式计算 DataWorks
MaxCompute产品使用问题之如何通过临时查询功能来书写和运行SQL语句
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
SQL 存储 Oracle
通过sql做数据透视表,数据库表行列转换(pivot和Unpivot用法)(一)
在mssql中大家都知道可以使用pivot来统计数据,实现像excel的透视表功能 一、MSsqlserver中我们通常的用法
349 0
|
SQL Go 数据库
SQL Server中行列转换 Pivot UnPivot
原文:SQL Server中行列转换 Pivot UnPivot PIVOT用于将列值旋转为列名(即行转列),在SQL Server 2000可以用聚合函数配合CASE语句实现 PIVOT的一般语法是:PIVOT(聚合函数(列) FOR 列 in (…) )AS P 完整语法: table_s...
1621 0