【数据库评测】揭秘 Cloudwave 4.0 版本多表联合join零耗时

简介: 【数据库评测】揭秘 Cloudwave 4.0 版本多表联合join零耗时

一、评测结果


  • 64核256g内存的机器上,在ssb100g数据集下,Cloudwave4.0 单机版在维度表与事实表之间做多表联合join时,查询耗时几乎为零(1ms),CPU占用几乎为零;2张表的join到3张表的join耗时增加几乎都可以忽略不计,CPU占用增加也几乎可以忽略不计。


  • 64核256g内存的机器上,在ssb100g数据集下,Starrocks3.0 单机版在维度表与事实表之间做多表联合join时,查询耗时在亚秒级别,CPU占用达到70%以上;2张表的join到3张表的join耗时增加50%,CPU占用变化不大(因为耗时增加了,单位时间内的CPU负载变化不大)。



备注:Cloduwave4.0是类snowflake的新一代云原生数据仓库;同时和starrocks一样配备mpp框架和多维向量化引擎;此外,独创的多维分析算法,尤其擅长雪花模型,星型模型等,多表联合join查询资源损耗几乎为零。


26608654-3af867b9e1277791.png


数据库 数据集 SQL1响应时间(ms) SQL2响应时间(ms) SQL1 CPU 最大占用率 SQL2 CPU 最大占用率
Cloudwave4.0 ssb100 10 10 0.275%(17.6%/6400%) 0.28%(17.9%/6400%)
Starrocks3.0 ssb100 590 890 71%(4546%/6400%) 79.5%(5093%/6400%)




二、评测环境


  • 硬件环境:1台 64核256g 云服务器,essd pl1 高效云盘
  • 软件环境:jdk19(Cloudwave4.0官方推荐版本,官方基于jdk19版本里头的的vector api,实现全面向量化引擎)、jdk8(starrocks安装推荐jdk版本,主要用于fe,亦可少踩坑)、mysql8(作为starrocks的客户端)
  • 软件版本:Cloudwave 4.0,Starrocks 3.0
  • 评测数据集:ssb100




三、评测SQL


  • 评测SQL1:select count(*) from lineorder,customer where lo_custkey = c_custkey;
  • 评测SQL2:select count(*) from lineorder,customer,supplier where lo_custkey = c_custkey and lo_suppkey = s_suppkey;


第1条SQL是将lineorder这张事实表与customer这张维度表join,加count()是迫使数据库必须把所有的记录都join上。


第2条SQL是将lineorder这张事实表与customer、supplier 这两张维度join,加count(
)同样是迫使数据库必须把所有的记录都join上。



三、评测方法


  • 执行19轮SQL1测试脚本,每轮执行1条测试sql,去除第1轮的测试数据(由于IO原因,第1次查询两边的性能均受IO影响,本测试主要测数据库引擎的算法在同等计算资源的条件下的优劣,因此去除第一轮测试数据),将余下的18轮测试数据做平均,获得sql的平均耗时
  • 观察最大CPU占用




四、开始评测[cloudwave]


  • 启动并导入ssb100数据 到cloudwave


  • 执行cloudwave SQL1测试




./test_ex.sh
  • 可以看到cloudwave CPU最大占用是17.6%
  1. 分析SQL1结果


26608654-ae96ff44e02a43f2.png


./analysis.sh cloudwave "$(ls n*txt)" +
  • 可以看到cloudwave SQL1的耗时0.01秒左右。(截图里的0.04是第一轮查询,IO影响比较大)(天呐!lineorder(数据量6亿),join customer(数据量300万),竟然只需要0.01秒)
  1. 执行SQL2测试


26608654-2dbdbe6c6219a408.png


./test_ex.sh
  • 可以看到cloudwave CPU最大占用是17.9%
  1. 分析SQL2结果


26608654-f2b01726742a42fe.png


./analysis.sh cloudwave "$(ls n*txt)" +
  • 可以看到cloudwave SQL2 的耗时也是0.01秒左右。(天呐!!!lineorder(数据量6亿),join customer(数据量300万),再join supplier(数据量20万)竟然也只需要0.01秒。简直像开了挂——官方说:我们对于事实表与维度表多表联合join的时间应该为零



五、对比评测[starrocks]


  1. 启动并导入ssb100 到 starrocks


26608654-ddbb31b4fdac2cd3.png


./fe/bin/start_fe.sh --daemon
./be/bin/start_be.sh --daemon
./create_db_table.sh ddl_100
  1. 执行SQL1测试


26608654-8ddd6b4371d3ed30.png


  • 可以看到starrocks CPU 最大占用率为 4546%。
  1. 分析SQL1 结果



  • 可以看到starrocks SQL1 的耗时是0.59s左右。
  1. 执行SQL2测试

    26608654-825fe7993138dcf1.png
  • 可以看到starrocks CPU最大占用率为 5093%。
  1. 分析SQL2结果

26608654-4eac3d1b77e6ab6d.png


可以看到 starrocks SQL2 耗时 0.89s 左右。



目录
相关文章
|
30天前
|
SQL JSON 关系型数据库
MySQL是一个广泛使用的开源关系型数据库管理系统,它有许多不同的版本
【10月更文挑战第3天】MySQL是一个广泛使用的开源关系型数据库管理系统,它有许多不同的版本
111 5
|
30天前
|
运维 监控 安全
【YashanDB知识库】ycm托管数据库时报错OM host ip:127.0.0.1 is not support join to YCM
总之,解决“OM host ip: 127.0.0.1 is not supported to join to YCM”的关键在于理解集群管理对IP地址的使用要求,并据此做出相应的配置调整,确保集群的稳定性和数据一致性。
16 1
|
1月前
|
SQL Oracle 关系型数据库
SQL数据库当前版本概览与更新趋势
在探讨SQL(Structured Query Language)数据库的当前版本时,我们首先要明确的是,SQL本身是一种查询语言标准,而并非特指某一个具体的数据库产品
|
10天前
|
SQL 关系型数据库 数据库连接
"Nacos 2.1.0版本数据库配置写入难题破解攻略:一步步教你排查连接、权限和配置问题,重启服务轻松解决!"
【10月更文挑战第23天】在使用Nacos 2.1.0版本时,可能会遇到无法将配置信息写入数据库的问题。本文将引导你逐步解决这一问题,包括检查数据库连接、用户权限、Nacos配置文件,并提供示例代码和详细步骤。通过这些方法,你可以有效解决配置写入失败的问题。
30 0
|
1月前
|
关系型数据库 数据挖掘 数据库
解析数据库联结:应用与实践中的 INNER JOIN、LEFT JOIN、RIGHT JOIN、FULL OUTER JOIN 与 CROSS JOIN
解析数据库联结:应用与实践中的 INNER JOIN、LEFT JOIN、RIGHT JOIN、FULL OUTER JOIN 与 CROSS JOIN
44 1
|
14天前
|
XML 缓存 数据库
Discuz! X3.0 版本的数据库字典
Discuz! X3.0 版本的数据库字典
29 0
|
16天前
|
JavaScript 前端开发 测试技术
[新手入门]todolist增删改查:vue3+ts版本!
【10月更文挑战第15天】[新手入门]todolist增删改查:vue3+ts版本!
|
2月前
|
关系型数据库 分布式数据库 数据库
开源云原生数据库PolarDB PostgreSQL 15兼容版本正式发布
PolarDB进行了深度的内核优化,从而实现以更低的成本提供商业数据库的性能。
|
3月前
|
关系型数据库 MySQL Shell
MySQL数据库一键安装脚本,适合任何版本
MySQL数据库一键安装脚本,适合任何版本
66 2
|
9天前
|
关系型数据库 MySQL Linux
在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。
本文介绍了在 CentOS 7 中通过编译源码方式安装 MySQL 数据库的详细步骤,包括准备工作、下载源码、编译安装、配置 MySQL 服务、登录设置等。同时,文章还对比了编译源码安装与使用 RPM 包安装的优缺点,帮助读者根据需求选择最合适的方法。通过具体案例,展示了编译源码安装的灵活性和定制性。
45 2