一、评测结果
- 64核256g内存的机器上,在ssb100g数据集下,Cloudwave4.0 单机版在维度表与事实表之间做多表联合join时,查询耗时几乎为零(1ms),CPU占用几乎为零;2张表的join到3张表的join耗时增加几乎都可以忽略不计,CPU占用增加也几乎可以忽略不计。
- 64核256g内存的机器上,在ssb100g数据集下,Starrocks3.0 单机版在维度表与事实表之间做多表联合join时,查询耗时在亚秒级别,CPU占用达到70%以上;2张表的join到3张表的join耗时增加50%,CPU占用变化不大(因为耗时增加了,单位时间内的CPU负载变化不大)。
备注:Cloduwave4.0是类snowflake的新一代云原生数据仓库;同时和starrocks一样配备mpp框架和多维向量化引擎;此外,独创的多维分析算法,尤其擅长雪花模型,星型模型等,多表联合join查询资源损耗几乎为零。
数据库 | 数据集 | SQL1响应时间(ms) | SQL2响应时间(ms) | SQL1 CPU 最大占用率 | SQL2 CPU 最大占用率 |
Cloudwave4.0 | ssb100 | 10 | 10 | 0.275%(17.6%/6400%) | 0.28%(17.9%/6400%) |
Starrocks3.0 | ssb100 | 590 | 890 | 71%(4546%/6400%) | 79.5%(5093%/6400%) |
二、评测环境
- 硬件环境:1台 64核256g 云服务器,essd pl1 高效云盘
- 软件环境:jdk19(Cloudwave4.0官方推荐版本,官方基于jdk19版本里头的的vector api,实现全面向量化引擎)、jdk8(starrocks安装推荐jdk版本,主要用于fe,亦可少踩坑)、mysql8(作为starrocks的客户端)
- 软件版本:Cloudwave 4.0,Starrocks 3.0
- 评测数据集:ssb100
三、评测SQL
- 评测SQL1:select count(*) from lineorder,customer where lo_custkey = c_custkey;
- 评测SQL2:select count(*) from lineorder,customer,supplier where lo_custkey = c_custkey and lo_suppkey = s_suppkey;
第1条SQL是将lineorder这张事实表与customer这张维度表join,加count()是迫使数据库必须把所有的记录都join上。
第2条SQL是将lineorder这张事实表与customer、supplier 这两张维度join,加count()同样是迫使数据库必须把所有的记录都join上。
三、评测方法
- 执行19轮SQL1测试脚本,每轮执行1条测试sql,去除第1轮的测试数据(由于IO原因,第1次查询两边的性能均受IO影响,本测试主要测数据库引擎的算法在同等计算资源的条件下的优劣,因此去除第一轮测试数据),将余下的18轮测试数据做平均,获得sql的平均耗时
- 观察最大CPU占用
四、开始评测[cloudwave]
- 启动并导入ssb100数据 到cloudwave
- 执行cloudwave SQL1测试
./test_ex.sh
- 可以看到cloudwave CPU最大占用是17.6%
- 分析SQL1结果
./analysis.sh cloudwave "$(ls n*txt)" +
- 可以看到cloudwave SQL1的耗时0.01秒左右。(截图里的0.04是第一轮查询,IO影响比较大)(天呐!lineorder(数据量6亿),join customer(数据量300万),竟然只需要0.01秒)
- 执行SQL2测试
./test_ex.sh
- 可以看到cloudwave CPU最大占用是17.9%
- 分析SQL2结果
./analysis.sh cloudwave "$(ls n*txt)" +
- 可以看到cloudwave SQL2 的耗时也是0.01秒左右。(天呐!!!lineorder(数据量6亿),join customer(数据量300万),再join supplier(数据量20万)竟然也只需要0.01秒。简直像开了挂——官方说:我们对于事实表与维度表多表联合join的时间应该为零)
五、对比评测[starrocks]
- 启动并导入ssb100 到 starrocks
./fe/bin/start_fe.sh --daemon ./be/bin/start_be.sh --daemon ./create_db_table.sh ddl_100
- 执行SQL1测试
- 可以看到starrocks CPU 最大占用率为 4546%。
- 分析SQL1 结果
- 可以看到starrocks SQL1 的耗时是0.59s左右。
- 执行SQL2测试
- 可以看到starrocks CPU最大占用率为 5093%。
- 分析SQL2结果
可以看到 starrocks SQL2 耗时 0.89s 左右。