快出数量级的性能是怎样炼成的

简介: 我们之前做过一些性能优化的案例,不算很多,还没有失手过。少则提速数倍,多则数十倍,极端情况还有提速上千倍的。提速一个数量级基本上是常态。

我们之前做过一些性能优化的案例,不算很多,还没有失手过。少则提速数倍,多则数十倍,极端情况还有提速上千倍的。提速一个数量级基本上是常态。下面是一些案例材料:

开源 SPL 提速保险公司团保明细单查询 2000+ 倍

开源 SPL 提升银行自助分析从 5 并发到 100 并发

开源 SPL 提速银行用户画像客群交集计算 200+ 倍

开源 SPL 优化银行预计算固定查询成实时灵活查询

开源 SPL 将银行手机账户查询的预先关联变成实时关联

开源 SPL 提速银行资金头寸报表 20+ 倍

开源 SPL 提速银行贷款协议跑批 10+ 倍

开源 SPL 优化保险公司跑批优从 2 小时到 17 分钟

开源 SPL 提速银行 POS 机交易报表 30+ 倍

开源 SPL 提速银行贷款跑批任务 150+ 倍

开源 SPL 提速资产负债表 60 倍

这是怎么做到的呢?

这些被提速的场景都有一个共同点:原先都是用各种数据库(也有HADOOP/Spark)上的SQL实现的,包括查询用的几百行SQL也有跑批用的几千行存储过程,然后我们改用集算器的SPL重新实现之后就有了这样的效果。

集算器SPL有什么神奇之处?是不是能让各种运算跑得更快?

有点遗憾,并没有这样的好事。集算器也是一个软件,而且是用Java写的,完成同样运算通常比C/C++写的数据库还要慢一点。

那是怎么回事?

根本原因在于我们用SPL实现了不同的算法。软件不能提高硬件的速度,但我们可以设计出更低复杂度的算法,有效地减少计算量,然后速度自然就上去了。一个运算任务本来要做1亿次加法,如果能减到100万次,那自然就能快100倍,即使每次运算都变得稍慢一点,总体性能仍然会提高,这一点也不神奇。

只要能实现高性能算法和存储,用什么技术来做并不重要了。用C/C++、Java当然都能做出来。事实上,集算器是用Java写的,用Java直接实现这些算法原则上还会更快一点,用C/C++ 一般还能更快(Java的内存分配消耗时间还是有点多)。

不过,虽然用Java和C++能写出比SPL更快的代码,但要长得多(估计会长出50-100倍),这会导致开发工作量过大,这在实际应用时也是要权衡的一个指标。有时候,跑得快和写着简单其实是一回事,就是能高效率地实现高性能算法。

集算器的SPL中强化了结构化数据的数据类型,并提供了很多基础的高性能算法。写代码就是组合运用这些算法,当然会方便得多。要说神奇之处,也就是这一点了。

那么,继续SQL就不能做到同样的事吗?

是的。SQL设计得过于粗线条,关系代数这个理论基础中缺乏很多数据类型和基础运算,很多高性能算法都无法描述,结果只能使用慢算法。虽然现在很多数据库和大数据平台都在工程上有所优化,但也只能针对简单的场景,情况复杂之后数据库的优化器都会“晕”掉,所以解决不了根本问题。这是个理论上的问题,无法在工程层面解决。

SPL基于的理论基础不再是关系代数,而是我们发明的离散数据集。在这个体系下有更多的数据类型和运算,就能写出更多高性能算法了。SPL是离散数据集的一种实现,封装了许多现成的算法。用Java和C++当然也能从头来实现这个代数体系,因而都能写出来高性能代码。而SQL却不可以。

举个简单的例子,我们想在1亿条数据中取出前10名,用SQL写出来是这样的:

select top 10 x,y from T order by x desc

这个语句中有个order by,严格按它执行就会涉及大排序,而排序非常慢。其实我们可以想出一个不用大排序的算法,但用SQL却无法描述,只能指望数据库优化器了。对于这句SQL描述的简单情况,很多商用数据库确实都能优化,使用不必大排序的算法,性能通常很好。但情况复杂一些,比如在每个分组中取前10名,要用窗口函数和子查询把SQL写成这样:

select * from
    (select y,*,row_number() over (partition by y order by x desc) rn from T)
where rn<=10

这时候,数据库优化器就会犯晕了,猜不出这句SQL的目的,只能老老实实地执行排序的逻辑(这个语句中还是有order by的字样),结果性能陡降。

而SPL不一样,离散数据集中有普遍集合的概念,TopN这种运算被认为是和SUM和COUNT一样的聚合运算,只不过返回值是个集合而已。这时候写出来的取前10名的语句中并没有排序动作:

T.groups(;top(-5;x))

分组后的写法也很简单,都不需要执行大排序:

T.groups(y;top(-5;x))

这里 性能优化技巧:TopN 还有关于这个问题的更详细测试对比。

所以,我们做性能优化时要重写代码,不能继续使用SQL保持兼容。要读懂原来的逻辑重新实现,这个工作量还是很大的,不过能换来数倍数十倍的性能提升,常常还是值得的。

另外,存储也非常重要,好算法要有合适的存储机制配合才能生效,所以不能继续把数据继续存在数据库里获得高性能,需要搬出来换种办法组织存放。改变存储后,有可能把原来需要缓存的计算过程变成不需要了,原来要遍历多遍的运算变成只遍历一次甚至不用遍历了,减少硬盘访问量对性能的提升非常有效。

从上面这个原理上看,如果我们不能针对计算目标设计出更好的算法,那就做不到提速了。比如一个很简单的大表求和,用SQL要做1亿次,用SPL也要做1亿次,那就不可能做得更快,一般还会更慢一点(Java赶不上C/C++)。但是,当运算任务足够复杂时,碰到几百上千行的嵌套N层SQL(慢的SQL通常也不会太简单),几乎总能找到足够多可优化的环节,所以我们经历过的案子还没有失手过。结果,在实践上用Java写出来集算器大幅度超越了C/C++写的数据库,这都是算法造就的。

我们甚至曾经发过一个广告 慢得受不了的查询跑批

寻找用SQL写的慢过程,我们负责提速一个数量级。

换个角度再看这个提速原理:高性能靠的不是代码,而是代数,代码只是个实现手段而已。其中最关键的是掌握和运用这些算法,而不是SPL语法。SPL语法很简单,比Java容易多了,两小时就能基本上手,两三周就能比较熟练了。但算法却没那么简单,需要认真学习反复练习才能掌握。这些案例直接由没有经验的用户自己做常常效果并不好,主要原因也是对算法没有吃透。

反过来,而只要掌握了算法,用什么语法就是个相对次要的问题了(当然用SQL这种太粗线条的语言还是不行)。这就像给病人看病,找出病理原因后,能分析出什么成分的药能管用。无论直接购买成药(使用封装过的SPL),还是上山采药(使用Java/C++硬写),都可以治好病,无非就是麻烦程度和支付成本不同。

可能有读者对SPL提供了哪些与SQL不同的高性能算法感兴趣,推荐一下乾学院上的性能优化图书 【性能优化】 前言及目录 和视频课程 《性能优化》课程

我们已经把这些算法都整理成有体系的知识了。有些算法是业界首创的,其它教科书和论文中都找不到。

跟着这些图书课程学习,掌握这些算法后,就可以自己写到快出数量级的高性能代码。即使自己不写代码,也能理解原理,不会再被很多大数据产品喊什么“万亿秒查”的说法忽悠了。

SPL资料

相关文章
|
移动开发 前端开发 数据安全/隐私保护
iOS发布证书.p12文件无密码解决办法及导出带密码的新.p12文件方法
iOS发布证书.p12文件无密码解决办法及导出带密码的新.p12文件方法
1109 0
|
弹性计算 负载均衡 对象存储
手把手教你白嫖阿里云服务器(免费领服务器)
手把手教你白嫖阿里云服务器(免费领服务器)阿里云免费服务器领取,个人和企业用户均可以申请,个人免费服务器1核2GB 每月750小时,企业u1服务器2核8GB免费使用3个月,阿里云百科分享阿里云免费服务器申请入口、个人和企业免费配置、申请资格条件及云服务器免费使用时长
1689 0
|
2月前
|
人工智能 安全 BI
豆包、千问下架智能体,老金觉得Agent的下半场在企业,在谁能干活
豆包、千问下线拟人化/自建智能体,主因是陪聊型Agent治理成本高、商业闭环弱。真正能接入业务系统、稳定交付结果的企业级Agent,正加速落地。Agent下半场,比的不是“像不像人”,而是“能不能干活、敢不敢担责”。
|
2月前
|
存储 人工智能 运维
阿里云百炼大模型平台全解:入口、免费额度领取与API调用实战
阿里云百炼是一站式大模型服务平台,依托通义实验室技术,集模型调用、多模态生成、智能体开发、应用部署、安全运维于一体,覆盖个人、团队、企业全场景需求。平台整合文本、图像、视频、多模态全品类模型,提供低代码开发框架与全链路安全管控,支持开箱即用与二次开发,适配内容创作、软件开发、企业智能服务等领域。
1101 0
|
3月前
|
运维 API 数据库
哪个IP查询工具更新更及时?实测对比:日更库 vs周更/月更库
IP归属地动态变化,周/月更库易过时,导致广告错投、风控失效。本文实测对比发现:日更商业库新IP段24小时内精准入库,而月更纯真库等严重滞后。附三大验证方法——跟踪新IP段、多工具交叉比对、WHOIS事实核查。(239字)
958 1
|
5月前
|
人工智能 安全 开发工具
不吹不黑|MonkeyCode vs Cursor,研发党该怎么选?
家人们谁懂啊!做后端开发5年,我曾被“配环境2小时、写代码10分钟”逼到崩溃,被PR Review排队熬到深夜,今天不搞虚的,全程基于官方文档实测,结合3个新鲜热乎的实战案例+真实使用心得,不吹不黑,纯干货分享,帮你少走弯路、直接落地,和繁琐研发流程说拜拜~
371 0
|
缓存 监控 负载均衡
提升HTTP动态代理IP性能的最佳实践
在现代网络环境中,HTTP动态代理IP的优化配置至关重要。通过选择合适的代理类型(正向/反向代理)、配置缓存、使用负载均衡、加强安全配置(SSL/TLS加密、身份验证)、管理日志、性能监控、限制带宽、定期更新软件和优化用户体验(减少延迟、内容压缩),可以显著提升网络性能、安全性及用户满意度。根据具体需求灵活调整配置,实现最佳效果。
667 64
提升HTTP动态代理IP性能的最佳实践
通过DISM清理组件储存文件
WinSxS是Windows系统重要文件夹,占用大量C盘空间。通过PowerShell运行DISM命令可有效清理冗余组件,缩小其体积,释放磁盘空间。
|
监控 搜索推荐 调度
【内测征集】LarkVR 播控系统上新:VR 应用一站式专业播控与管理工具
Paraverse 平行云专为 VR 应用场景运营方打造的一站式专业播控与管理工具LarkVR播控系统,基于LarkXR实时云渲染平台方案,整合VR空间运营、播控管理、设备运营等场景衍生的VR管理工具,旨在帮助其高效管理设备和运营自己的业务,提升整体运营效率与用户体验。 VR 运营者不再局限于单一终端的串流业务系统,通过 LarkVR播控系统,一键部署前后端业务系统,运营人员使用 pad即可完成快捷操作。支持本地内网部署,支持个性化需求定制接入,兼容市面上主流的各品牌 VR 一体机。
539 12
|
设计模式 人工智能 编解码
突破效率边界:VTJ.PRO以AI+低代码重塑企业数字化生产力
VTJ.PRO是新一代AI驱动的低代码平台,通过可视化开发架构提升企业应用构建效率。支持零编码设计、多模态渲染、响应式布局与智能AI辅助,助力企业加速数字化转型,显著缩短开发周期并降低维护成本。
450 0