课时6:如何通过 0 改造,享受 Serverless 技术红利(三)

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: 如何通过 0 改造,享受 Serverless 技术红利

Serverless AI训练营:课时6:如何通过 0 改造,享受 Serverless 技术红利(三)

课程地址https://developer.aliyun.com/trainingcamp/1eeaedf056f14ad98e9986c31068e939?spm=a2c6h.26142516.J_2566289780.1.37c67cbd7bCsFs

课时6:如何通过 0 改造,享受 Serverless 技术红利(三)


在常规的SAE架构下,上层有 podecontinue 的一个概念,但底层实际上是一个容器。 Serverless 这种产品形态其实是不适合的,为什么呢?因为传统的容器不太适合工云场下的多组环境,共享内核让他有被穿透的风险。

所以我们实际上采用了安全容器,安全层面上的虚拟机,但这个层面又符合开发S下的容器。虚拟机的安全其实通过acs就知道,他是经过考验的,所以他跟开发S结合以及容器生态的结合,就是一个非常好的一个方案。

比如我们在用户的层面他会有不同的命名空间,命名空间其实是可以部署在不同的VPC,他是相互隔离的。然后再看开发S层面他也有一个命名空间,他也是隔离的。底层通过一个技术来隔离,接下来详细说一下。

 image.png


业界有几种主流的安全容器的相关技术,包括 Kata Firecracker gVisor 。因为他是一个最早、也是最成熟的一个技术来实现的一个安全容器。并且她不但做到了一个安全的隔离,还实现了性能与故障的隔离。

举一个最简单的例子,在传动ross共享模式下,如果有一个容器引起了内核故障,那么很有可能整个物理机都得崩掉。在安全容器的一个环境下,他其实没有这样一个风险。

3.极致弹性 极致成本

 image.png


前面大概介绍了 Serveless 中最核心的一个资源隔离,抑制网络隔离的技术。接下来介绍Serveless 另外一个核心,也就是极致弹性、极致成本。一个非常简单的道理,如果弹性的效率越高,他越能达到一个极致,贴近业务真实需求的一个成本。

如果最开始仅仅是部署在ess这种,没有很好的弹性的话,那么可能造成非常大的资源的浪费,还有可能因为评估不足造成资源的受损。比较理想的情况下是能够尽快的弹出来,通过业务相关的一些指标,比如CPU、内存都可以作为一个弹性的指标,做成更贴近业务需求的一个资源的容量。具体我们是如何做相关的一个建设以及努力呢?

5.  SAE极致弹性建设:部署&重启

在最开始我们可以看到标准的pode创建的过程是从调度到 init container 创建再到拉取镜像,创建用户容器、启动用户容器&应用,最后再运行应用。整个过程非常长,阶段也非常多。我们会持续在每个阶段做一些提高效率方面的建设。

首先是SAE原地升级的一个策略,标准开发S项目下,涉及到调度以及init container 的创建,然后我们借助了阿里巴巴的一个负载,实现了原地升级,效率提升了42%。他的核心的原理就是省去了 pode 的重新调度,以及容器创建的时间。他只是重建里面的一个容器。另外的话,在镜像拉取方面,我们做了镜像预热,把原来串起来调度改成并起来调度。也实现进一步的效率提升。另外用户在启动进程方面特别是 java 的一个生态,我们也做了一个特定的增强。


image.png 

6.  SAE极致弹性建设:Java启动加速

比如说我们知道 Java 相比其他语音,启动速度一直是它的重点,原因在于Java的加载机制需要对应每一个类,就是每一个加载进行便利解析及加载。

那么阿里巴巴实现了APP CDS 他们的核心原理就是将相对于比较缓慢的cas一个个加载的过程达到一个压缩包中。其实只需要一次性加载这个压缩包就可以了。在最简单的Java启动,Java应用以及Spring book 的场景可以提升45%的效率。


 image.png


7.  SAE极致弹性建设

在微服务场景,我们通常会有较做的一个线程,原生的微服务,他的一些线程都是对应到了操作系统的线程。他们在高平发的场景下,会有一个较大的线程调度的开销。

SAE是结合了阿里开源来加工Y11实现的一个加速,将原来的Java原生线程协程化,100个线程可能对于底层就是10个线程,极大的降低了线程切换的一个开销。这是我们实测压测的一个结果,可以看到至少有20%的提升。

 image.png

image.png

四、总结和展望

首先我们分析到了微服务场景下的优势以及额外带来的一些比较大的一个复杂的新的一个生态组件。阿里云 Serveless 应用引擎将 Serveless 的一个理念发挥到了极致,从最底层到上层的开发S、应用PassCI/CD、微服务套进来的一个机制,客观性的一个增强都做了 Serveless 化的一个托管。用户根本不需要感知各方面的东西,他只需要用就行了。它不需要感知功能提供者,不需要感知组件的运维。

实际上 Serveless 对于微服务场景下完整的一个举止方案。未来的话SAE也会在每一个模块做持续的一个能力增强。包括应用层Pass层面,对越来越多的云产品,CI/CD等做更好的继承。

以及企业级能力的增强,比如说我们会做一些审批,应用发布/变更一定要等到上级审批才能做,尽量减少误操作或者恶意操作带来的一些困难,或者一些不可预计的毁灭性的成果、效果。

另外,在 Serveless 我们持续会优化弹性能力,会有越来越多的弹性指标、弹性效率、弹性预测,在底层方面我们会做一个技术的发明,其实SAE的使用是非常便宜的,因为是按分钟计费,对于不同的测试开发环境,它可以做到一键齐停。

比如白天我可能需要开发测试,我可以把整个环境一键激起来,到晚上开发测试环境就不需要了,我可以把整个环境都全部停掉。然后在微服务组件生态我们会集成越来越多的微服务组件,做到端到端的解决方案,解决开发者在面对微服务技术时的门槛。

比如说故障组、全面组压测。最后在可观测层面,其实平台内部已经在持续做一些能力的建设,在 Serveless 场景下将复杂度由用户交给平台,相对于把复杂的东西交给平台。怎么好去运维这么多应用,其实也是我们的核心能力。这对于目测我们也会考虑像应用大盘试用中心这些能力,接下来再做开发。

image.png

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
15天前
|
关系型数据库 Serverless 分布式数据库
PolarDB Serverless 模式通过自动扩缩容技术,根据实际工作负载动态调整资源,提高系统灵活性与成本效益
PolarDB Serverless 模式通过自动扩缩容技术,根据实际工作负载动态调整资源,提高系统灵活性与成本效益。用户无需预配高固定资源,仅需为实际使用付费,有效应对流量突变,降低总体成本。示例代码展示了基本数据库操作,强调了合理规划、监控评估及结合其他云服务的重要性,助力企业数字化转型。
25 6
|
2月前
|
存储 运维 监控
Elasticsearch Serverless 高性价比智能日志分析关键技术解读
本文解析了Elasticsearch Serverless在智能日志分析领域的关键技术、优势及应用价值。
Elasticsearch Serverless 高性价比智能日志分析关键技术解读
|
1月前
|
监控 安全 Serverless
"揭秘D2终端大会热点技术:Serverless架构最佳实践全解析,让你的开发效率翻倍,迈向技术新高峰!"
【10月更文挑战第23天】D2终端大会汇聚了众多前沿技术,其中Serverless架构备受瞩目。它让开发者无需关注服务器管理,专注于业务逻辑,提高开发效率。本文介绍了选择合适平台、设计合理函数架构、优化性能及安全监控的最佳实践,助力开发者充分挖掘Serverless潜力,推动技术发展。
61 1
|
2月前
|
缓存 前端开发 Serverless
前端技术新趋势:从PWA到Serverless架构
【10月更文挑战第1天】前端技术新趋势:从PWA到Serverless架构
50 3
|
4月前
|
运维 Cloud Native 开发者
云原生技术演进:从微服务到无服务器的旅程
【8月更文挑战第20天】在数字化时代的浪潮中,云原生技术如同一艘航船,承载着企业转型的梦想与挑战。本文将深入探讨云原生技术的发展路径,从微服务的兴起到无服务器架构的革新,揭示这一技术演进背后的逻辑与动力。通过分析云原生技术的优势、面临的挑战以及未来的发展趋势,我们将描绘出一幅云原生技术演进的宏伟蓝图。
|
4月前
|
机器学习/深度学习 监控 Serverless
Serverless 应用的监控与调试问题之Flink在内部使用的未来规划,以及接下来有什么打算贡献社区的创新技术
Serverless 应用的监控与调试问题之Flink在内部使用的未来规划,以及接下来有什么打算贡献社区的创新技术
|
4月前
|
Cloud Native 安全 云计算
云原生技术的未来:探索服务网格和无服务器架构
随着企业数字化转型的深入,云计算已成为推动业务创新的核心力量。本文将深入探讨云原生技术的最新发展趋势,重点分析服务网格和无服务器架构如何重塑云计算的未来。通过实际案例和技术解析,揭示这些前沿技术如何解决现代应用部署的复杂性,提高系统的可伸缩性和弹性。文章旨在为读者提供云原生领域的深度见解,并激发对云技术未来发展的思考。
101 0
|
3月前
|
人工智能 自然语言处理 Serverless
阿里云函数计算 x NVIDIA 加速企业 AI 应用落地
阿里云函数计算与 NVIDIA TensorRT/TensorRT-LLM 展开合作,通过结合阿里云的无缝计算体验和 NVIDIA 的高性能推理库,开发者能够以更低的成本、更高的效率完成复杂的 AI 任务,加速技术落地和应用创新。
165 13
|
4月前
|
Serverless API 异构计算
函数计算产品使用问题之修改SD模版应用的运行环境
函数计算产品作为一种事件驱动的全托管计算服务,让用户能够专注于业务逻辑的编写,而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景,从简单的数据处理到复杂的业务逻辑,实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点,帮助你更好地理解和应用这一服务。
|
4月前
|
运维 Serverless 网络安全
函数计算产品使用问题之通过仓库导入应用时无法配置域名外网访问,该如何排查
函数计算产品作为一种事件驱动的全托管计算服务,让用户能够专注于业务逻辑的编写,而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景,从简单的数据处理到复杂的业务逻辑,实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点,帮助你更好地理解和应用这一服务。

热门文章

最新文章

相关产品

  • 函数计算