基于 MySQL + Tablestore 分层存储架构的大规模订单系统实践-SQL 查询和分析

简介: 前言前面我们介绍了基于 MySQL + Tablestore 分层架构的订单系统。订单数据储存进入 Tablestore 后,用户可以使用 SDK 中的 API 访问数据,也可以继续使用 SQL 访问 Tablestore 中的数据。Tablestore 提供了多种 SQL 的接入方式,客户可以通过 DLA 访问 Tablestore,也可以利用 Tablestore 自身对 SQL 的支持能力,

前言

前面我们介绍了基于 MySQL + Tablestore 分层架构的订单系统。订单数据储存进入 Tablestore 后,用户可以使用 SDK 中的 API 访问数据,也可以继续使用 SQL 访问 Tablestore 中的数据。Tablestore 提供了多种 SQL 的接入方式,客户可以通过 DLA 访问 Tablestore,也可以利用 Tablestore 自身对 SQL 的支持能力,直接使用 SQL 访问 Tablestore。

下面本文将展示,如何直接利用 SQL 直接读取 Tablestore 中的数据。

控制台使用SQL

添加自定义列

目前使用 SQL 需要将 Tablestore 中的数据列定义为预定义列。

进入表格存储控制台,点击进入实例。

点击进入对应的表 order_contract。

点击添加预定义列。将订单表字段均设置为预定义列,设置结果如图。

创建映射表

在控制台创建 order_contract 的映射表。在实例管理页面,点击 SQL 查询。可以看到 SQL 输入框。点击加号,选择表 order_contract。点击生成SQL

调整 SQL 的字段类型,在输入框输入以下建表 SQL。若有报错,可以尝试将 SQL 缩进至一行中,然后再执行。

create table order_contract (
oId VARCHAR(1024),
create_time VARCHAR(1024),
total_price DOUBLE,
p_brand VARCHAR(1024),
p_price DOUBLE,
pay_time BIGINT(20),
has_paid BIGINT(20),
s_id VARCHAR(1024),
p_name VARCHAR(1024),
c_id VARCHAR(1024),
c_name VARCHAR(1024),
s_name VARCHAR(1024),
p_count BIGINT(20),
p_id VARCHAR(1024),
primary key(oId));

点击刷新按钮,可以看到映射表已经建好。

页面查询

根据用户id查询订单

在SQL 输入框中输入以下 SQL。

select * from order_contract where c_id = "user1370786" limit 100

可以看到查询结果。

统计过去一段时间各店铺成交额

在SQL 输入框中输入以下 SQL。

select count(*) ,s_id from order_contract where pay_time > 1628784000000 group by s_id order by count(*) desc

可以看到查询结果。

性能比较

在 Tablestore 中压入 1亿 条订单记录,根据不同需求场景进行性能测试。

订单搜索、数据检索

需求分析

  • 根据订单id读取订单详情。
  • 搜索某店铺过去一段时间的订单例表。
  • 获取分页获取用户订单列表。
  • 搜索某用户购买过的包含某关键字的商品。

这一类需求为订单系统中最常见的数据检索需求。对于基于买家 id、订单 id、卖家 id 的数据检索,MySQL可以通过建立索引来解决,而对于多条件组合的查询,MySQL一般很难处理,需要通过 Elasticsearch 提供数据检索能力来对外提供搜索支持。

性能对比

下表中列举了几个常见场景下的数据检索需求,以及对应的 Tablestore SQL、MySQL的性能比较。可以看到 Tablestore SQL 在基于订单id、买家id、卖家id上的搜索性能可以与 MySQL 相媲美。而在一些复杂条件的搜索场景下,Tablestore SQL 基于多元索引,提供了比 MySQL 更加强大的检索能力,这一点是单独的 MySQL 架构无法提供的。

需要说明的是,MySQL 索引需要遵守最左匹配原则,一个索引可能只能应对一个或几个需求。因此在复杂组合检索条件下,可能需要构建很多索引表才能够满足检索需求,这不仅会占用很多磁盘空间,MySQL 的维护也会变得复杂。而 Tablestore SQL 底层基于多元索引,一张索引可以应对所有数据检索需求。

需求

Tablestore SQL / 执行时间

MySQL / 执行时间

说明

根据订单id获取订单详情

select * from order_contract where oId = "1623228187378_user978315"

执行时间:小于50ms

select * from order_contract where oId = "1623228187378_user978315"

执行时间:小于50ms

统计某店铺在 2021 年 6 月 30 日零点以来金额在 2000 元以上的订单,按订单金额倒序取前 20

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract 

where s_id = 'store995' and pay_time > 1624982400000000

and total_price > 2000 ORDER BY total_price desc limit 20

执行时间: 亚秒至秒级

select oId,c_id, c_name,c_name, p_brand,p_name, total_price, s_id from order_contract where s_id = 'store995' and pay_time > '2021-06-30 00:00:00'

and total_price > 2000 ORDER BY total_price desc limit 20

执行时间在亚秒级

符合筛选条件的记录数1278。MySQL 建有 s_id,pay_time,total_price 联合索引。

统计某用户 2021 年 6 月 30 日零点以来金额在 2000 元以上的订单,按支付时间倒序取前 20

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract where c_id = 'user2908110' and 

pay_time >= 1624982400000000

and total_price > 2000

order by pay_time desc limit 20

执行时间: 小于50ms

select oId,c_id,c_name,c_name,p_brand,p_name,total_price,s_id from order_contract where c_id = 'user2908110' and pay_time >= '2021-06-30 00:00:00'

and total_price > 2000

order by pay_time desc limit 20

执行时间小于 50ms

MySQL 在字段 c_id 上建立索引。

user2908110客户共有 14 张订单。

搜索2021年6月30日零点以来成交额在9995元以上,且商品品牌中包含特定关键字的订单,按商品单价倒序排列取前 100。

MySQL 中建立有p_price,total_price,pay_time的联合索引。

select oId,c_id,s_id,total_price,c_name,p_brand,pay_time,p_price from order_contract 

where total_price > 9995 and pay_time > 1624982400000000

and p_brand like "%品牌22%"

order by p_price desc limit 100

执行时间约 100 ms

select oId,c_id,s_id,total_price,c_name,p_brand,pay_time,p_price from order_contract 

where total_price > 9995 and pay_time > '2021-06-30 00:00:00'

and p_brand like "%品牌22%"

order by p_price desc limit 100

执行时间:分钟级

MySQL 在字段 p_price, total_price, pay_time 建有联合索引。

符合条件的记录数约16条

报表分析、运营推广

需求分析

  • 统计过去一个月各店铺成交额并排序;
  • 统计过去一个月各店铺成交的最大单笔订单金额;
  • 统计当天成交订单数最大的 100 位客户

此类需求在订单系统的报表工作、数据分析、运营推广当中会非常常见,主要考验数据库对聚合操作的支持能力。SQL 解析结合 Tablestore 的多元索引,在此类场景下的性能远高于 MySQL。

性能对比

表格中列举了三种依赖聚合操作的场景,对于每种场景,给出了各 SQL 语句以及运行时间。Tablestore SQL 在三种场景执行时间都在亚秒级,远远好于 MySQL 性能。三种场景下,MySQL 中都建立了适合此场景的联合索引,在有索引并无需回表的情况下,统计仍需要几十秒到几分钟的时间;而需要回表时,MySQL 性能会极速衰退。MySQL 索引需要遵守最左匹配原则,在现实环境当中,很难像这里的三个场景都建立了恰当的索引,甚至并不会建立类似于 pay_time, c_id, total_price 这样的联合索引,因此,现实场景大数据下 MySQL 对此类需求的支持能力更加糟糕。多元索引不需遵守最左匹配原则,可以以一份索引覆盖所有列,因此也不存在回表问题。

可以看到,在聚合场景下,Tablestore SQL 性能远高于 MySQL。

需求

Tablestore SQL / 执行时间

MySQL / 执行时间

说明

统计2021年6月30日零点以来,各店铺成交订单数量,订单数量降序排序。

select s_id, count(*) as c from order_contract where pay_time >= 1624982400000000  group by s_id order by c desc

执行时间: 亚秒级

select s_id, count(*) as c from order_contract where pay_time >= '2021-06-30 00:00:00'group by s_id order by c desc

执行时间约 25s

MySQL 建有 pay_time、s_id联合索引,无需回表。时间范围内记录数约1200w。

统计2021年6月30日零点以来,各店铺成交订单数量、总成交额、平均成交额、最大订单金额,按成交额降序排序。

select s_id, count(*),sum( total_price) as c, avg( total_price),max( total_price) 

from order_contract where pay_time >= 1624982400000000  group by s_id order by c desc

执行时间 :亚秒级

select s_id, count(*),sum( total_price) as c, avg( total_price),max( total_price) from order_contract where pay_time >= '2021-06-30 00:00:00'  group by s_id order by c desc

执行时间在一个小时以上

MySQL 建有 pay_time、s_id联合索引,需要回表。时间范围内记录数约1200w。

统计2021年6月30日零点以来,下单金额最高的100个客户。

SELECT c_id ,sum(total_price) as a FROM order_contract where pay_time >= 1624982400000000

group by c_id 

order by a desc limit 100

执行时间:亚秒级

SELECT c_id ,sum(total_price) as a FROM order_contract where pay_time >= '2021-06-30 00:00:00'

group by c_id 

order by a desc limit 100

执行时间约2分半

MySQL 建有pay_time, c_id, total_price 的联合索引,无需回表。时间范围内记录数约1200w。

总结

Tablestore 支持 SQL 查询。这使得用户开发工作、程序迁移工作,变得更加简单。SQL 解析,结合 Tablestore 的多元索引,为用户提供了更加强大的 SQL 查询、检索能力,其数据检索能力,远强于 MySQL。

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
MySQL数据库入门学习
本课程通过最流行的开源数据库MySQL带你了解数据库的世界。   相关的阿里云产品:云数据库RDS MySQL 版 阿里云关系型数据库RDS(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据库服务,提供容灾、备份、恢复、迁移等方面的全套解决方案,彻底解决数据库运维的烦恼。 了解产品详情: https://www.aliyun.com/product/rds/mysql 
目录
相关文章
|
10月前
|
数据采集 监控 API
移动端性能监控探索:iOS RUM SDK 技术架构与实践
阿里云 RUM SDK 作为一款性能体验监控采集工具,可以作为辅助 App 运维的强有力助手,提升您的问题排查效率。
507 75
|
10月前
|
存储 运维 分布式计算
零售数据湖的进化之路:滔搏从Lambda架构到阿里云Flink+Paimon统一架构的实战实践
在数字化浪潮席卷全球的今天,传统零售企业面临着前所未有的技术挑战和转型压力。本文整理自 Flink Forward Asia 2025 城市巡回上海站,滔搏技术负责人分享了滔搏从传统 Lambda 架构向阿里云实时计算 Flink 版+Paimon 统一架构转型的完整实战历程。这不仅是一次技术架构的重大升级,更是中国零售企业拥抱实时数据湖仓一体化的典型案例。
659 0
|
11月前
|
数据采集 运维 数据可视化
AR 运维系统与 MES、EMA、IoT 系统的融合架构与实践
AR运维系统融合IoT、EMA、MES数据,构建“感知-分析-决策-执行”闭环。通过AR终端实现设备数据可视化,实时呈现温度、工单等信息,提升运维效率与生产可靠性。(238字)
|
10月前
|
存储 SQL 消息中间件
从 ClickHouse 到 StarRocks 存算分离: 携程 UBT 架构升级实践
查询性能实现从秒级到毫秒级的跨越式提升
|
10月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
633 1
|
关系型数据库 MySQL 网络安全
5-10Can't connect to MySQL server on 'sh-cynosl-grp-fcs50xoa.sql.tencentcdb.com' (110)")
5-10Can't connect to MySQL server on 'sh-cynosl-grp-fcs50xoa.sql.tencentcdb.com' (110)")
|
SQL 存储 监控
SQL Server的并行实施如何优化?
【7月更文挑战第23天】SQL Server的并行实施如何优化?
1023 13
解锁 SQL Server 2022的时间序列数据功能
【7月更文挑战第14天】要解锁SQL Server 2022的时间序列数据功能,可使用`generate_series`函数生成整数序列,例如:`SELECT value FROM generate_series(1, 10)。此外,`date_bucket`函数能按指定间隔(如周)对日期时间值分组,这些工具结合窗口函数和其他时间日期函数,能高效处理和分析时间序列数据。更多信息请参考官方文档和技术资料。
718 9
|
SQL 存储 网络安全
关系数据库SQLserver 安装 SQL Server
【7月更文挑战第26天】
416 6
|
SQL Oracle 关系型数据库
MySQL、SQL Server和Oracle数据库安装部署教程
数据库的安装部署教程因不同的数据库管理系统(DBMS)而异,以下将以MySQL、SQL Server和Oracle为例,分别概述其安装部署的基本步骤。请注意,由于软件版本和操作系统的不同,具体步骤可能会有所变化。
1521 3