双十一咋省钱?KeenTune助你业务资源省省省

简介: KeenTune(轻豚)是一款智能化的调优产品。这个双十一,轻豚助你业务省时、省力、省钱。

第 13 个双十一如约而至,各位小伙伴们是不是已经斗志满满准备大买一场?剁手之前各位亲们先等一等,看一看哈。


今年不仅仅有天猫、淘宝、考拉......帮您在生活购物里省省省,龙蜥社区更是带了各类重磅产品,帮您的业务省省省!


刚在云栖大会龙蜥社区分会场官宣开源的智能全栈调优产品 KeenTune 就是这么一款能真实省钱的工具,具体能干啥?我们来一起回顾下龙蜥社区上的演讲内容。


KeenTune(轻豚)已在龙蜥社区建立 SIG 组,且在不久前官宣开源。相信本款智能全栈调优产品 KeenTune 会为你带来不一样的调优体验。本文分享人为 KeenTune(轻豚)SIG 负责人——胡玉溪。

KeenTune(轻豚)产品介绍

image.png

轻豚是一款智能化的调优产品,今天我将从四个方向跟大家一起看一下 KeenTune 这个产品:

1、KeenTune 想要解决什么问题;

2、如何解决了这些问题;

3、目前做到了什么程度;

4、大家可以如何与我们一起做这个产品。

image.png

开始正式内容之前,我们先通过名称来认识一下轻豚这个产品,轻豚的英文名叫 KeenTune,由两个英文单词组成:Keen 代表敏捷,Tune 是调优器。从名字上可以看出来,轻豚的原始初衷就希望它是敏捷化的调优器。那么,敏捷该如何理解?

image.png

image.gif

  • 敏捷代表着它应该是足够聪明的。通过专家知识库和 AI 算法这两个引擎共同驱动,KeenTune 真正能代替人做一些事情,比如:管理参数之间的复杂关系、在高维空间找到最优参数组合、分析各参数对业务的影响程度等等。
  • 敏捷也代表它是足够有效的。现在的单点或者局部的调优,调优效果都不怎么好,我们要做到全栈调优,要能覆盖到硬件、固件、软件的南北向各层,也要能覆盖到 CPU、内存、IO、网络等多个领域,这样的全栈调优对实际的业务场景才是真正有效的。
  • 敏捷还表它是轻盈的。KeenTune 有两个特点:轻量化和跨平台。轻量化上看,KeenTune 需要部署在业务环境上的只有一个 python agent,不到 1M 大小,依赖也只有一个简单的 tornado。跨平台上看,KeenTune 不止在阿里的 Anolis OS 上可以使用,在主流开源 Linux 上也都可以使用,目前已经配过的包括:CentOS、Ubuntu、Debian等。

一、KeenTune 想要解决什么问题

回归正题,第一部分,我们一起看看为什么要做 KeenTune,那么就关系到一个问题:OS 性能调优为什么这么难?

image.png

有不少朋友,在工作中会有性能调优相关的任务,我平时也会接到这样的任务。前段时间,老板把我叫过去说我们目前要进行一个投标业务,要支撑验证 Anolis OS 相比于友商在性能上是有优势的,我们要对 MySQL TPCC 进行全栈性能调优。

image.png

接到这个任务的时候,我大脑里会有这样纷杂的知识域,甚至比这个更加繁杂。说到全栈调优,从覆盖层次上看,就会涉及到刚才说的硬件、固件、软件,而软件会有内核、基础库、系统服务、运行时、以及再往上层的应用,这些都是具有可调优性的;从跨领域角度来讲,需要覆盖到 CPU、内存、IO、网络等等。要把这么多的知识统一起来是非常费劲的事,单纯的内核可调参数就在 3000 个以上,系统服务也会在 2000 个左右,如此大的范围内,我们如何求解这个问题?


如果是你,该找老板要时间来解决这个问题?半年、三个月还是一个月?事实上,我的老板只会给我一周。这一周时间我该做什么?跑路吗?毕竟还是要养家的,而且阿里有句话叫此时此刻非我莫属,别人做不了,我的团队为什么不做一下呢?

image.gifimage.png

通过分析性能调优真正的难点在哪里,最后我们发现所有的困难归结为三个问题:

1、操作系统的软硬件配置过于繁杂。无论是应用内核参数、系统服务还是应用配置,都有成百上千的参数,而且参数之间相互,在调优的时候往往存在跷跷板现象,如何管理如此大量的领域知识,是非常困难的事情。

2、人力、时间成本高。做一次有效的全栈调优,往往需要把多个领域的专家集中起来进行一次1-3个月的集中攻关,在人力和时间成本上是非常大的代价。

3、专家知识难以固化复用。即使是我们在一个场景上把所有专家集中起来做了一次非常好的攻关,专家知识还是非常难以固化下来并在下个应用扩展使用起来,到了下一次调优场景,还是几乎要重头再来。


针对上述问题我们该如何求解呢?

  • 如果专家知识非常难以固化,那我们为什么不建一个专家知识库平台来把专家知识固化起来呢?
  • 如果我们的配置关系非常复杂,投入时间和人力非常高,那我们为什么不把 AI算法引入进来,让人工智能帮我们做一些事情。

二、如何解决了这些问题

基本的想法有了,我们来尝试做一个产品来实现,这就有了 KeenTune 项目。那么,我们进入第二部分,一起看看 KeenTune 是如何解决上述问题的。

image.png

KeenTune 有静态调优和动态调优两个过程:静态调优和动态调优。

image.png

  • 静态调优:负责专家知识的固化和管理。一方面,把专家知识库固化起来,这样在新的场景,或者集群内的大量业务机器上,一键式把专家知识使用上;另一方面,能够把不同层次的大量可配置参数及其之间的关系管理起来。
  • 动态调优:把 AI 引入进来,解决在高维空间找到最优参数组合的问题。人工非常难通过经验或者尝试在数以千计的参数空间中找到最优组合,而这是 AI 擅长的。通过敏感参数降维、Bayes 系列的参数搜索算法能够非常高效和有效的找到可用的最优参数组合。

动静态的协同调优,是 KeenTune 能够进行有效全栈调优的两个基本支柱。

image.gifimage.png

大家可以看下现在 KeenTune 的架构,橙色部分是动态调优部分,黄色部分是静态调优部分。动态和静态都会有各自的专家知识库,细心的同学可能发现我们静态的调优知识库比动态的多一点,因为动态关注更多的是参数调优,所以是不包含硬件、固件管理,内核模块及系统服务等部分的。


动静态协同也是我们需要解决问题。大家可以思考一下这个问题:在线下一个小的集群里训练出来了一组非常好的结果,到了线上的大规模集群部署的时候,该如何快速运转起来?这个时候,需要把动态调优的结果固化起来,转移到静态专家知识库中进行扩散,KeenTune 提供了 dump 功能来做这件事。再来思考一个问题:静态调优专家知识库如果想放在特定环境上针对于细致调优?这时又需要把静态知识库转移到动态里去,所以 KeenTune 也提供了 generate 操作。动静态协同才能够确保 KeenTune 在实际业务场景上是有调优效果的。


下面,我们来具体了解下 KeenTune 的几个特点:

  • KeenTune 是全栈性能调优工具。从硬件、固件,到软件的内核、运行时、编译器,以及比较常用的应用,KeenTune都可以针对于它来做比较好的定制化调优。

image.gifimage.png

  • 多领域的算法模型。为了保证在各种环境上能够高效调优,不仅用到参数调优范畴里的算法,也引入到了敏感参数识别来进行降维实现效率和效果提升。同时,为了能够保证不停波动的环境上实现有效调优,引入高保真的算法来保证算法的有效性。另外,引入了多目标调优,保证在不同需求的场景上是有效果的。

image.png

  • 算法可视化平台。这里也有个彩蛋:做算法开发的同学也可以用到 KeenTune,因为我们提供了可视化算法开发和运作平台,这也是后续希望能够和算法开发的同学能够共建的点。
  • 跨平台。不仅能够非常好的支撑阿里自己的 OS,CentOS、Ubuntu、Debian等主流开源 OS 也都已经做过了适配,大家可以非常快速的在 X86、ARM 架构使用起来。

image.png

  • 高度模块化,轻量化。KeenTune 是一个非常完整的模块化可分布式部署的产品,目前分成了四大组件:装在业务环境上的运行时 agent、管控工具、AI 算法库和 benchmark 管控工具。这些组件里,只有一个非常小的 agent 需要部署在业务环境上,其他比较重量级的模块都是可以卸载到非业务环境上,所以对于系统环境的侵占性会非常小,装上之后就能用。

image.gifimage.png

希望大家在有性能调优需求的时候想到 KeenTune 产品。

三、目前做到了什么程度

在了解了 KeenTune 的能力和特点后,我们进入第三部分,一起看看 KeenTune 在内部的业务场景里能做到什么样的程度。

image.gifimage.png

目前,无论是 VM 典型的业务压力还是容器场景下,KeenTune 在非常多的应用场景里的调优效果都达到了30% 以上。开头提到的 MySQL 场景,我们已经可以实现通过静态的一键调优,在 X86 和 ARM 上达到性能提升 10 倍以上的效果。通过以上数据,还是能够体现出 KeenTune 在很多场景都有稳定而有效的调优能力。

image.gifimage.png

另外,无论是在人力和时间成本节省上,还是调优有效性、高效性上,KeenTune 都是比较好的。

image.png

四、如何与我们一起做这个产品

通过以上的介绍,相信大家很想知道该如何获取和使用 KeenTune,那么我们一起进入最后一部分。

image.png

这里给出来一个可用的业务部署方式,刚才有提到模块化。从这个部署图里来看,如果只是静态调优,那么只需要部署左侧的两个模块就可以;所有的 AI 这些东西用起来的话,就是四个模块一起来用。你可以把它想象成一个乐高,按需所取,按照自己的使用方式来真正使用 KeenTune。

image.png

加入KeenTune(轻豚):

现在的 KeenTune 已经正式开源,大家可以通过 KeenTune 的官网和龙蜥社区(OpenAnolis)获取源码,图片中是KeenTune(轻豚)交流群,大家可以扫码进群和我们互动。谢谢大家!

image.gifimage.png

KeenTune(轻豚)是一款AI算法与专家知识库双轮驱动的操作系统全栈式智能优化产品,为主流的操作系统提供轻量化、跨平台的一键式性能调优,让应用在智能定制的运行环境发挥最优性能。


欢迎更多开发者加入KeenTune(轻豚) SIG:

网址:https://openanolis.cn/sig/KeenTune

邮件列表:keentune@lists.openanolis.cn


—— 完 ——

关于龙蜥SIG

加入微信群:添加社区助理-龙蜥社区小龙(微信:openanolis_assis),备注【龙蜥】与你同在;加入钉钉群:扫描下方钉钉群二维码。欢迎开发者/用户加入龙蜥社区(OpenAnolis)交流,共同推进龙蜥社区的发展,一起打造一个活跃的、健康的开源操作系统生态!

开发者社区.png

关于龙蜥社区

龙蜥社区OpenAnolis)是由企事业单位、高等院校、科研单位、非营利性组织、个人等在自愿、平等、开源、协作的基础上组成的非盈利性开源社区。龙蜥社区成立于 2020 年 9 月,旨在构建一个开源、中立、开放的Linux 上游发行版社区及创新平台。

龙蜥社区成立的短期目标是开发龙蜥操作系统(Anolis OS)作为 CentOS 停服后的应对方案,构建一个兼容国际 Linux 主流厂商的社区发行版。中长期目标是探索打造一个面向未来的操作系统,建立统一的开源操作系统生态,孵化创新开源项目,繁荣开源生态。

目前,龙蜥OS 8.4已发布,支持 X86_64 、Arm64、LoongArch 架构,完善适配飞腾、海光、兆芯、鲲鹏、龙芯等芯片,并提供全栈国密支持。

欢迎下载:https://openanolis.cn/download

加入我们,一起打造面向未来的开源操作系统!

https://openanolis.cn

相关文章
|
5月前
|
存储 监控 供应链
一文讲透阿里商旅账单系统架构设计实践
阿里商旅作为飞猪旅行旗下面向企业客户的数字化差旅解决方案产品,依托飞猪旅行机票、酒店供应链为企业客户提供一站式的机票、酒店、火车票、用车等预订管控及结算票据服务。阿里商旅不仅是集团欢行的供应商,而且近几年在商业化差旅市场上崭露头角,服务了2万+中大型客户,43万+小微企业。
|
业务中间件 数据库 云计算
云上新实践!江西农信完成业务系统不停服迁移
云上新实践!江西农信完成业务系统不停服迁移
132 0
|
弹性计算 Prometheus Kubernetes
【腾讯云Finops Crane集训营】利用云原生成本优化项目实现降本增效泰裤辣~(二)
【腾讯云Finops Crane集训营】利用云原生成本优化项目实现降本增效泰裤辣~(二)
282 0
《弹性升级诀窍分享:让双十一来的更猛烈些吧》电子版地址
弹性升级诀窍分享:让双十一来的更猛烈些吧
62 0
《弹性升级诀窍分享:让双十一来的更猛烈些吧》电子版地址
《基于云的货拉拉技术稳定性保障实践》电子版地址
基于云的货拉拉技术稳定性保障实践.ppt
82 0
《基于云的货拉拉技术稳定性保障实践》电子版地址
|
弹性计算 调度 双11
备战“双11”,阿里云为企业提供一站式资源保障服务
阿里云弹性计算将上线资源保障服务,通过智能化资源诊断、推荐、资源预定及授权候补为用户提供一站式自助化资源保障服务,兼顾灵活,经济的同时还能获得时刻的确定性保障,为业务顺畅前行保驾护航。
322 0
备战“双11”,阿里云为企业提供一站式资源保障服务
【功能推荐】这几个爆款支付宝小程序的自运营能力,还不快来了解一下?
各位开发者们: 支付宝小程序“收藏有礼”、“收藏后专享”能力正式全量开放啦!   收藏有礼  收藏有礼是支付宝小程序推出的一款自运营能力的营销组件,为小程序商户提高小程序收藏量。 当一个未收藏小程序的新用户,点击进入小程序收藏有礼活动,可以直接点击领取商家配置的卡券,同时默认用户收藏该小程序,并提醒用户去该小程序进行核销。
1441 12
|
云安全 弹性计算 负载均衡
【云栖号案例 | 新零售】O2O电商服务平台上云 完美控制预算 业务准时上线
公司发展初期需要控制成本,业务上线紧迫,其他厂商服务器稳定性和数据库性能无法满足业务。上云后将预算控制在范围内,避免因项目延期而造成损失。
【云栖号案例 | 新零售】O2O电商服务平台上云 完美控制预算 业务准时上线
企业复工季遇上阿里云采购季,云市场主播带你了解线上业务怎么玩
当企业复工季遇上阿里云采购季,3月19日晚上19:00,云市场主播带你了解线上业务怎么玩:运营流量、转化商机、促进成交三步走,还有千元天猫超市卡+电子合同免费试用+线上化运营白皮书+老客续费双倍抽奖......
563 0
企业复工季遇上阿里云采购季,云市场主播带你了解线上业务怎么玩