2022云栖精选—Serverless Computing技术架构

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: 陈全上海交通大学教授

lQLPJxbcF2cqNBvMiM0FeLCMz4ifcSGHeANpqgFLAEAA_1400_136.png

一、Serverless Computing技术特点

幻灯片4.PNG

Serverless Computing 是介于基础云计算平台和上层用户应用之间的新层次,通过函数计算提供通用计算能力。这种新型计算模式具有以下几个典型特点:

第一,无需进行底层运维管理,所有运维交由云提供商进行上层业务人员仅需关注业务本身逻辑。

第二,采用 Pay-as-you-go 计费模式,无需长时间租用服务器。

第三,按需资源扩展,需要多少资源使用多少资源。

第四,事件驱动可以提供更加灵活函数和容器调度。


幻灯片5.PNG

想要实现以上目标,将会面临以下挑战。

第一,底层运维时,云提供商需要考虑如何能够实现多个租户不同函数之间高效隔离,保证其安全性。

第二,因为事件驱动内在调用方式,需要保在新型函数调用方式下实现快速响应。

第三,如何实现高效任务调度,提高云计算平台资源利用率。

针对以上挑战,我们需要解决以下几个问题:

第一,如何将底层各式各样硬件进行高效抽象基于抽象即可设计高效隔离策略。

第二,如何权衡性能和资源问题,分配给函数多少资源能够恰好满足性能需求

第三,需要在整个云层面、集群层面进行高效负载均衡,提高其资源利用率。


二、Serverless Computing的分层架构

幻灯片7.PNG

在分层结构上,我们调研了大量学术界和工业界采用 Serverless Computing 平台,发现他们大多将平台分为三个层面,从下至上分别为虚拟化层、封装层和系统层。系统层又可以进一步分为协调层和编排层。

幻灯片8.PNG

上层系统层主要负责协调和调度工作。其中协调指提供很多后台软件支持,比如数据库支持、内存数据库支持通过后台软件,函数计算才能正确地运行。调度功能主要解决单个函数资源扩展问题,函数调用多次,需要为其分配多少副本多少容器才能满足性能需求,是调度层需要解决事情,另外,海量容器同时存在一个节点上如何进行负载均衡也是调度层需要解决的问题

容器封装层将用户函数调用封装在低开销容器中运行要避免容器本身启动开销导致函数响应时间过长,因此涉及到预热,需要预先为函数启动好容器。

虚拟化层提供了更基础支持,比如函数具体实现容器具体实现以及资源隔离机制计算资源存储资源具体的隔离机制在虚拟化层实现。

幻灯片9.PNG

虚拟化层有多种实现方式,可以基于容器实现资源分配和隔离,也可以基于传统虚拟机实现资源分配和隔离。

幻灯片10.PNG

现有的虚拟化层隔离技术基本可以分为四类,各具优缺点。

第一类:基于虚拟机虚拟化方法。它具有更高安全性,因为虚拟机实现了资源完全隔离。

第二类基于传统 runc容器runc 容器资源开销较小,运行快但是隔离性安全性较差。

第三类:基于安全容器。安全容器将虚拟机技术和传统容器技术做了一定权衡,运行资源开销较小,同时隔离性和启动速度比虚拟机更好。现有发展趋势大多为使用安全容器技术。

第四类:基于 unikernel 。兼容性较差,需要针对特定函数以及特定应用提前编译镜像,且一旦编译好之后则无法修改。

幻灯片11.PNG

封装层需要解决容器冷启动开销问题,我们不希望容器启动开销造成函数运行时间急速增长。最为广泛的解决方法容器预热技术。

幻灯片12.PNG

容器预热技术分为两种。

独立容器预热池:该方法会为每个函数构建独立预热容器池。但缺点在于会占用过多系统资源因为每容器都有自己池,池中都需要预热一批容器为函数服务。

模板容器池:该方案会为所有函数预热同一套模板容器,里面可以运行所有函数。当函数需要容器时,会从模板池中取出容器出,对其进行特异化。特异化是指为其安装函数本身需要各种依赖数据。其优点在于资源占用较少但特异化本身也存在开销,甚至可能比冷启动容器开销更大。

幻灯片13.PNG

系统层主要负责协调和编排工作。


幻灯片14.PNG

目前学术界对系统层进行研究的关键问题包括:

① 复杂拓扑逻辑支持单个函数功能非常有限,需要将多个函数将组合成有无环DAG实现复杂功能。对应 Serverless Computing 平台需要提供DAG图引擎支持复杂拓扑逻辑。

② 集群资源管理器需要实时地监控集群中各个节点上资源使用量,保证可用性和性能稳定。

③ 负载均衡器需要考虑应用中各个服务之间冲突情况数据传输压力以及资源使用量进行全局负载均衡,设计高效调度策略满足资源利用率提升目标。


三、Serverless Computing的未来展望

幻灯片16.PNG

未来,Serverless Computing 向着通用化、高效化和智能化三个方向进行发展。

通用化除了计算,也可以设计 Serverless存储系统,设计更高效的执行架构以用于各种应用场景,不再局限于普通计算加速。

高效化:能够做硬件异构硬件统一抽象,使得 Serverless Computing平台不仅支持 CPU 函数,可以使用 GPU 神经网络加速器等各种异构硬件,做统一抽象和管理研究预热模板和应用画像结合尽量使用最少的资源满足每一个函数都可以获得热容器目标。

智能化指导容器规格恰好合适”,需要知道为每个容器分配多少 CPU 资源内存资源可以刚刚好达到预期目标,保证资源不浪费的同时也保证了延迟。实现Serverless混部 SLA 保障成千上万个容器混合在一个物理节点上,互相之间会存在严重资源竞争。如何在混合部署情况下控制容器之间冲突,也是未来需要探索方向。

关于龙蜥峰会 eBPF & Linux 稳定性专场课件获取方式:


【PPT 课件获取】:关注微信公众号(OpenAnolis),回复“龙蜥课件” 即可获取。有任何疑问请随时咨询龙蜥助手—小龙(微信:openanolis_assis)。


【视频回放】:视频回放可前往龙蜥官网https://openanolis.cn/video 查看。


lQLPJxbcF2cqM2TM-M0CnrCgW_7LDpyh1wNpqgFKAPsA_670_248.png

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
15天前
|
弹性计算 运维 Serverless
卓越效能,极简运维,体验Serverless高可用架构,完成任务可领取转轮日历!
卓越效能,极简运维,体验Serverless高可用架构,完成任务可领取转轮日历!
|
26天前
|
监控 Serverless 云计算
探索Serverless架构:开发实践与优化策略
本文深入探讨了Serverless架构的核心概念、开发实践及优化策略。Serverless让开发者无需管理服务器即可运行代码,具有成本效益、高可扩展性和提升开发效率等优势。文章还详细介绍了函数设计、安全性、监控及性能和成本优化的最佳实践。
|
9天前
|
弹性计算 Cloud Native Serverless
阿里云 SAE 邀您参加 Serverless 高可用架构挑战赛,赢取精美礼品
阿里云 SAE 邀您参加 Serverless 高可用架构挑战赛,赢取精美礼品。
|
2月前
|
监控 Serverless 数据库
探索 Serverless 架构:云计算的新浪潮
【10月更文挑战第18天】Serverless架构,即无服务器架构,是一种新兴的云计算模式,让开发者无需管理服务器即可构建和运行应用。本文探讨了其核心概念、优势、挑战及最佳实践,强调了按需付费、自动扩展和开发效率等优点,同时也指出了冷启动、状态管理和调试监控等挑战。
|
1月前
|
机器学习/深度学习 监控 Serverless
探索Serverless架构:云计算的新前沿
【10月更文挑战第26天】本文探讨了Serverless架构作为新兴的云计算范式,如何改变应用的构建和部署方式。文章介绍了Serverless的核心概念、优势和挑战,并提供了开发技巧和实用工具,帮助开发者更好地理解和利用这一技术。
|
1月前
|
运维 Serverless 数据处理
Serverless架构通过提供更快的研发交付速度、降低成本、简化运维、优化资源利用、提供自动扩展能力、支持实时数据处理和快速原型开发等优势,为图像处理等计算密集型应用提供了一个高效、灵活且成本效益高的解决方案。
Serverless架构通过提供更快的研发交付速度、降低成本、简化运维、优化资源利用、提供自动扩展能力、支持实时数据处理和快速原型开发等优势,为图像处理等计算密集型应用提供了一个高效、灵活且成本效益高的解决方案。
98 1
|
1月前
|
监控 Serverless 数据库
探索 Serverless 架构:云计算的新浪潮
【10月更文挑战第23天】Serverless 架构是一种新兴的云计算范式,允许开发者构建和运行应用程序而无需管理服务器。本文深入探讨了 Serverless 的核心概念、优势、挑战及最佳实践,帮助开发者更好地理解和应用这一技术。
|
1月前
|
监控 安全 Serverless
"揭秘D2终端大会热点技术:Serverless架构最佳实践全解析,让你的开发效率翻倍,迈向技术新高峰!"
【10月更文挑战第23天】D2终端大会汇聚了众多前沿技术,其中Serverless架构备受瞩目。它让开发者无需关注服务器管理,专注于业务逻辑,提高开发效率。本文介绍了选择合适平台、设计合理函数架构、优化性能及安全监控的最佳实践,助力开发者充分挖掘Serverless潜力,推动技术发展。
78 1
|
1月前
|
运维 监控 Serverless
Serverless架构在图像处理等计算密集型应用中展现了显著的优势
Serverless架构在图像处理等计算密集型应用中展现了显著的优势
38 1
|
2月前
|
机器学习/深度学习 监控 Serverless
无服务器架构(Serverless)
无服务器架构(Serverless)

热门文章

最新文章

相关产品

  • 函数计算