MaxCompute 使用SQL进行同时在线问题分析

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 同一时刻处于相同状态的有多少,类似于这样的需求在游戏、电商、直播、教育等行业中很常见,本文就该问题分享下个人想法

同时在线问题在游戏、电商、直播、教育等互联网行业中很常见,该指标直接展示了各行业的竞争力,Boss也是很关注这个点,结果放到大屏展示也是在显眼的位置。这个问题如何进行分析呢,话不多说,直接上示例

案例:某游戏玩家玩游戏时间表如下:玩家ID、上线时间、下线时间

player_id

on_time

off_time

10001

2021-08-19 08:08:08

2021-08-19 12:11:23

10002

2021-08-19 09:01:07

2021-08-19 13:15:12

10003

2021-08-19 10:12:14

2021-08-19 10:50:18

10004

2021-08-19 09:20:21

2021-08-19 12:46:25

10005

2021-08-19 10:14:22

2021-08-19 13:26:15

10006

2021-08-19 11:11:25

2021-08-19 16:24:18

10007

2021-08-19 12:00:00

2021-08-19 17:48:03

10008

2021-08-19 13:12:14

2021-08-19 18:18:14

10009

2021-08-19 15:21:21

2021-08-19 21:15:17

10010

2021-08-19 18:20:02

2021-08-19 23:45:12

...

...

...

要求展示每天的最高在线人数:

date

online_ct

2021-08-01

254120

2021-08-02

198652

...

...

分析:在之前的文章中我们也使用过增加一个列用作标记,应用在这里可以对每个玩家上线标记1,下线标记-1,应用流式思想来一条数据就累加这个标记值,当然这个需要按时间先后顺序。累加的值就代表当前在线的人数问题。

  1. 首先生成示例数据
with tb1 as(select        player_id,        on_time,        off_time,        substr(on_time,1,10)as dt
fromvalues('10001','2021-08-19 08:08:08','2021-08-19 12:11:23'),('10002','2021-08-19 09:01:07','2021-08-19 13:15:12'),('10003','2021-08-19 10:12:14','2021-08-19 10:50:18'),('10004','2021-08-19 09:20:21','2021-08-19 12:46:25'),('10005','2021-08-19 10:14:22','2021-08-19 13:26:15'),('10006','2021-08-19 11:11:25','2021-08-19 16:24:18'),('10007','2021-08-19 12:00:00','2021-08-19 17:48:03'),('10008','2021-08-19 13:12:14','2021-08-19 18:18:14'),('10009','2021-08-19 15:21:21','2021-08-19 21:15:17'),('10010','2021-08-19 18:20:02','2021-08-19 23:45:12')               t(player_id,on_time,off_time))
  1. 利用前面分析的列转行方法,将每个玩家的上下线时间转成一列
tb2 as(select       player_id,       on_time as on_off_time,       dt,1as flag 
from tb1
union all 
select       player_id,       off_time as on_off_time,       dt,-1as flag 
from tb1
)
  1. 按时间先后顺序进行累加
tb3 as(select        player_id,        on_off_time,        dt,        flag,        sum(flag) over(partition by dt orderby on_off_time) sums
from tb2
)--结果如下player_id on_off_time     dt          flag  sums
100012021-08-1908:08:082021-08-1911100022021-08-1909:01:072021-08-1912100042021-08-1909:20:212021-08-1913100032021-08-1910:12:142021-08-1914100052021-08-1910:14:222021-08-1915100032021-08-1910:50:182021-08-19-14100062021-08-1911:11:252021-08-1915100072021-08-1912:00:002021-08-1916100012021-08-1912:11:232021-08-19-15100042021-08-1912:46:252021-08-19-14100082021-08-1913:12:142021-08-1915100022021-08-1913:15:122021-08-19-14100052021-08-1913:26:152021-08-19-13100092021-08-1915:21:212021-08-1914100062021-08-1916:24:182021-08-19-13100072021-08-1917:48:032021-08-19-12100082021-08-1918:18:142021-08-19-11100102021-08-1918:20:022021-08-1912100092021-08-1921:15:172021-08-19-11100102021-08-1923:45:122021-08-19-10
  1. 按天统计最高人数
select    dt asdate,    max(sums)as online_ct
from tb3
groupby dt;--结果如下date        online_ct
2021-08-196

掌握该类问题分析方法对业务需求分析有很大帮助,该类问题也可细化为每个小时在线人数等等。

拜了个拜

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
21天前
|
SQL 机器学习/深度学习 分布式计算
MaxCompute产品使用问题之如何调整改变SQL查询的严格性
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
22天前
|
SQL 分布式计算 前端开发
MaxCompute操作报错合集之SQL脚本设置参数set odps.mapred.reduce.tasks=18;没有生效,是为什么
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
19天前
|
SQL 大数据
常见大数据面试SQL-每年总成绩都有所提升的学生
一张学生成绩表(student_scores),有year-学年,subject-课程,student-学生,score-分数这四个字段,请完成如下问题: 问题1:每年每门学科排名第一的学生 问题2:每年总成绩都有所提升的学生
|
22天前
|
SQL 分布式计算 大数据
MaxCompute操作报错合集之使用spark.sql执行rename分区操作,遇到任务报错退出的情况,该怎么办
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
10天前
|
SQL 机器学习/深度学习 自然语言处理
大数据SQL助手:告别繁琐数据处理,轻松搞定SQL查询!
大数据SQL助手:告别繁琐数据处理,轻松搞定SQL查询!
16 0
|
13天前
|
SQL 存储 大数据
SQL中DISTINCT关键字的使用与性能影响分析
SQL中DISTINCT关键字的使用与性能影响分析
|
22天前
|
SQL 分布式计算 大数据
MaxCompute操作报错合集之执行sql时,出现Cannot read properties of undefined (reading 'start')错误提示,该怎么办
MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
|
22天前
|
SQL 分布式计算 大数据
MaxCompute产品使用问题之如何使用MaxCompute SQL客户端删除分区数据
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
27天前
|
SQL IDE Java
Java连接SQL Server数据库的详细操作流程
Java连接SQL Server数据库的详细操作流程
|
5天前
|
SQL 存储 安全
数据库数据恢复—SQL Server数据库出现逻辑错误的数据恢复案例
SQL Server数据库数据恢复环境: 某品牌服务器存储中有两组raid5磁盘阵列。操作系统层面跑着SQL Server数据库,SQL Server数据库存放在D盘分区中。 SQL Server数据库故障: 存放SQL Server数据库的D盘分区容量不足,管理员在E盘中生成了一个.ndf的文件并且将数据库路径指向E盘继续使用。数据库继续运行一段时间后出现故障并报错,连接失效,SqlServer数据库无法附加查询。管理员多次尝试恢复数据库数据但是没有成功。