云原生与边缘计算的碰撞——边缘原生应用实践

简介: 疫情推动行业、企业积极上云。如今,大多数的企业开始全面拥抱云计算,基础设施的云化、核心技术的互联网化、业务的数据化和智能化是All-in-Cloud时代的三大重要转变。4月29日,“众视LIVE VideoX学院”针对云原生技术以及边缘计算技术特邀阿里云高级技术专家熊鹰来到直播间,和大家共同讨论云原生技术在边缘的应用。

疫情推动行业、企业积极上云。如今,大多数的企业开始全面拥抱云计算,基础设施的云化、核心技术的互联网化、业务的数据化和智能化是All-in-Cloud时代的三大重要转变。

各行各业中,有很多业务应用从诞生之初就生长在云端,传统行业的转型意味着正在向互联网转移。作为云计算时代的新技术理念,云原生概念在2015年被提出,它从技术理念、核心架构等多个方面,帮助企业IT平滑、快速、渐进式落地上云之路。

迄今为止,阿里云服务着国内最大的云原生客户群。4月29日,“众视LIVE VideoX学院”针对云原生技术以及边缘计算技术,特邀阿里云高级技术专家熊鹰来到直播间,和大家共同讨论云原生技术在边缘的应用。

一、云原生技术,解耦更为复杂的系统

说起云原生,就不得不提到CNCF组织。CNCF即云原生计算基金会,2015年由谷歌牵头成立,基金会成员目前已有一百多企业与机构,包括亚马逊、微软、思科等巨头。CNCF定义云原生是有利于各组织在公有云、私有云和混合云等新型动态环境中,构建和运行可弹性扩展应用的技术,云原生的代表技术包括容器、服务网络、微服务、不可变基础设施和声明式API。这些技术能够构建容错性好、易于管理和便于观察的松耦合系统,结合可靠的自动化手段,云原生技术使工程师能够轻松地对系统做出频繁和可预测性的重大变更。

熊鹰认为这个定义除了包括一系列的技术以外,广义上也包含与之相配套的理念、架构和方法。越来越多的企业选择云原生构建其应用来获得更好的资源效率和持续的服务能力。相比较过往着力云原生概念的普及、理解和力求共识,云原生落地已经成为现如今ICT日常主旋律。

云原生是怎么崛起的呢?熊鹰表示:阿里云易立老师对云计算的演进路径进行了非常到位的总结:归纳为云搬迁——云就绪——云原生三个阶段。

image.png

第一阶段以搬迁上云为主:把运行在物体上的业务迁移到虚拟化环境中,这一阶段以降低成本为主要动力。
第二阶段是云就绪阶段,利用标准化、自动化的方式去管理资源,交付应用,提高系统运维效率。
第三阶段是云原生阶段,可支持互联网的规模性应用,可更加快速地创新、和低成本试错;其次,屏蔽了底层基础架构的差异和复杂性;同时,服务网格、无服务计算等新的计算范型的不断涌现,给整体IT架构能力带来了极致弹性,从而更好地服务于业务。

云原生技术的出现是IT技术的进步,能够解耦系统的复杂度,成为云计算技术的重要组成部分。同时,云原生技术也比虚拟主机更适应算力下沉的边缘计算。熊鹰认为,借助云原生技术,可以更好地实现云—边—端一体化的应用分发,解决在海量边、端设备上同意完成大规模应用交付、运维、管控的诉求。

二、云端算力持续下沉,在边缘侧计算成趋势

image.png

谈到边缘计算,就得先从其定义开始说起。阿里云定义的边缘计算是在靠近终端,在人和物的网络节点上提供一个分布式、可定义的、标准、安全的计算。这包含运营商基础互联网络和客户侧网络,主要特点就是低延时、可计划、自组织、可调度、可定义与安全性。

边缘计算是对于云计算的一个补充和拓展,致力于让计算和连接物离得更近,去构建万物互联的基础。

随着5G的发展,视频、工业制造、自动驾驶、智慧城市、智能家居都会涉及到海量、超低延时、多样性的数据处理,边缘计算就显得尤为重要了。数据表明,5G时代,80%的数据和计算将发生在边缘,在边缘侧计算成趋势。今年年初,“新基建”的概念走进了大众视野,物联网、AI、工业互联网让边缘计算技术得到高度的关注,从而推动更多玩家入局和加速其商业化场景的落地。

image.png

熊鹰提到,到底什么业务适合放在边缘?
第一类是终端算力上移的场景,借助5G大带宽能力,把终端算力上移到边缘,具有更灵活、更经济的优势。
第二类是本地化场景,无论低延时还是大连接,本地产生的大量数据需要及时消化,减少带宽成本,缩短传输时间。
在去年云栖大会上,阿里云定义边缘计算即城市计算,将为城市提供算力基础。城市计算的场景涉及到道路计算(车路协同、交通监测)、公用事业计算(智能电网、智能环保)、消费计算(新零售、物流云)、安全计算(公共安全)和家庭计算(云游戏、VR/AR)。

三、云原生在边缘侧应用的五大挑战与解决方案

当云原生遇见边缘计算,如何落地应用?熊鹰认为,在边缘部署云原生技术将会遭遇以下五大挑战,这也和边缘计算的特点息息相关。

image.png

边缘有着分布广泛、互联网传输、网络抖动、体量小的特点,该特点同样也制约着云原生技术在边缘侧的发展。

image.png

熊鹰说道,云原生技术的基础架构是不可变的,由于边缘的特性,会在现有的基础架构上遭遇挑战,具体表现在分布式节点带来的多入口、单一资源池中弹性弱、全局海量节点资源弹性强、网络传输防抖动、中间件集成等几个方面。

针对云原生技术在边缘侧遇到的挑战,阿里云进行了充分实践,推出边缘容器的产品方案。熊鹰表示:希望从五个具体场景出发,为大家介绍阿里云边缘节点服务(ENS)的一些落地实践经验。

四、阿里云边缘原生应用实践

(一)实践场景-云边协同应用
image.png

如何将一个服务从中心云迁移到边缘呢?大家经常会遇到的一个场景是应用在中心云上,但由于成本和业务的要求需要迁移到边缘,如何做呢?

1、在这个场景下,架构整体下移是不适合的,边缘场景与中心层相比无论是资源层还是网络层都会有一些变化,需要做一些架构上的调整。

2、要拥有中心和边缘云所需的能力从而达到整个架构的调整,内容要配合调度,让中心更加轻松的下降到边缘。通过内容本地化的调度,把中心化的请求分散到边缘。

3、核心业务通过统一运维平面从四个方面进行改造:1)业务逻辑分析,将分别适合中心和边缘的逻辑进行拆分;2)服务单元改造;3)边缘单元精简,将服务进一步微服务化;4)云边调度联动,减少云边和边缘网络的抖动,增加服务的可靠性,形成云-边-端服务的闭环。

最终可以达到性能提升,成本下降的效果。

(二)实践场景—无状态应用

image.png

第二个是网络监测和流量测试类的场景,类似于无状态应用。他的特性是对资源和整个流量的来源有一个简单的业务架构,没有太多复杂的云边网络协同等,轻松的可以在联网调度范围内自由的伸缩,是典型的serverless场景。

此类服务的接口是一个简单的服务交互方式,将这些应用做一个容器化的镜像处理,交付一个镜像。对于资源的需求也比较简捷,用户可以专注的在后台应用上进行处理,整个过程不用关心基础设施细节。

(三)实践场景—调度托管

这个场景与CDN十分类似,将用户需要的内容就近分配给用户,具有低延时的特性。用户不用关心流量是如何调度的,如何控制的,相当于一键式托管。边缘容器服务统一进行融合调度、节点管控、应用分发和全网调度。

(四)实践场景—MEC

5G MEC时代下,资源、应用和网络层面主要有两点不同。第一点,资源融合能力会很不同,底层资源交换方式种类变多,针对多样化的资源需要对基础设施进行整合。第二点不同是流量调度,整个电信的基础设施将会有很大的改变,算力下沉后通用的协议逐渐无法满足精准调度的需求,运营商将更开放。

运营商能力开放平台,资源调度、网络分流、域名系统等分场景的帮助用户选择在整个边缘计算网络里如何去满足需求。

(五)实践场景—EdgeAI

人工智能+边缘计算会产生怎样的火花呢?在边缘计算AI服务上,希望帮助AI算法工程师在实际应用中能自动化快速的将算法模型进行服务包装集成,更便捷高效的对外提供边缘服务。

算法开发者通过标准化的AI服务模板,模型托管、资源托管、一键完成AI在边缘的应用。

以上就是在边缘场景的一些容器场景和实践的经验。总结来说,什么业务适合放在边缘,主要还是从大流量、低延时、广覆盖、本地化这几个方面来看;而系统改造的实践经验,有较强的研发力量、较复杂的系统服务架构,可以使用Edge ACK,基于K8S来做开发,享受K8S的技术生态环境带来的优势;对于底层基础设施不敏感,有较强的弹性伸缩需求,可以使用更高层的Serverless层的边缘容器服务,极简运维,专注后台业务逻辑。

五、边缘原生演进与展望

云原生是一个庞大的体系,这个体系落地到边缘上,仍然有很大的挑战和机会;要做到真正的边缘原生,需要从理念、系统设计、架构设计等方面真正的去实践、实现,这样才能充分发挥边缘的优势。当然,边缘云平台也要具备和提供更多的开放能力,这样才能够形成整个正向的开发生态闭环。

关于边缘Serverless的展望。熊鹰谈到,边缘云平台要通过整合资源、打通能力、统一调度、集成应用四个维度的动作,让用户真正对于基础设施的无感,从而实现一键购买、一键部署、一键托管等的能力。

最后讲一下阿里云的边缘开放生态;在边缘计算的发展历程中,越来越多的生态应用依赖于 “云-边-端” 协同,边缘计算在这个协同中扮演的正是上下衔接的关键角色;阿里云边缘计算并逐步形成了自己的三层架构:
1)最底层整合多样化的边缘节点资源;
2)中间层基于自研的核心技术构建基于体验的分布式计算分发平台;
3)最上层开放API,让生态业务实现自己的生态应用从而打造一个标准、开放、融合、被集成、场景化的生态。

熊鹰在分享最后提出:5G已来,边缘已来,更期待各业务方、合作伙伴能够一起加入进来。

目录
相关文章
|
19天前
|
Cloud Native 持续交付 开发者
云原生技术在现代企业中的应用与实践####
本文深入探讨了云原生技术的核心概念及其在现代企业IT架构转型中的关键作用,通过具体案例分析展示了云原生如何促进企业的敏捷开发、高效运维及成本优化。不同于传统摘要仅概述内容,本部分旨在激发读者对云原生领域的兴趣,强调其在加速数字化转型过程中的不可或缺性,为后续详细论述奠定基础。 ####
|
9天前
|
Cloud Native 安全 Java
铭师堂的云原生升级实践
铭师堂完整经历了云计算应用的四个关键阶段:从”启动上云”到”全量上云”,再到”全栈用云”,最终达到”精益用云”。通过 MSE 云原生网关的落地,为我们的组织带来了诸多收益,SLA 提升至100%,财务成本降低67%,算力成本降低75%,每次请求 RT 减少5ms。
铭师堂的云原生升级实践
|
14天前
|
人工智能 缓存 异构计算
云原生AI加速生成式人工智能应用的部署构建
本文探讨了云原生技术背景下,尤其是Kubernetes和容器技术的发展,对模型推理服务带来的挑战与优化策略。文中详细介绍了Knative的弹性扩展机制,包括HPA和CronHPA,以及针对传统弹性扩展“滞后”问题提出的AHPA(高级弹性预测)。此外,文章重点介绍了Fluid项目,它通过分布式缓存优化了模型加载的I/O操作,显著缩短了推理服务的冷启动时间,特别是在处理大规模并发请求时表现出色。通过实际案例,展示了Fluid在vLLM和Qwen模型推理中的应用效果,证明了其在提高模型推理效率和响应速度方面的优势。
云原生AI加速生成式人工智能应用的部署构建
|
8天前
|
Cloud Native
邀您参加云原生高可用技术沙龙丨云上高可用体系构建:从理论到实践
云原生高可用技术专场,邀您从理论到实践一起交流,探索云上高可用体系构建!
|
8天前
|
Cloud Native 安全 Java
杭州铭师堂的云原生升级实践
在短短 2-3 年间,杭州铭师堂完整经历了云计算应用的四个关键阶段:从“启动上云”到“全量上云”,再到“全栈用云”,最终达到“精益用云”。也从云计算的第一次浪潮,迈过了第二次浪潮,顺利的进入到了 第三次浪潮 AI + 云。
|
19天前
|
Kubernetes Cloud Native API
云原生入门:从理论到实践的探索之旅
本文旨在为初学者提供一个关于云原生技术的全面介绍,包括其定义、核心原则、关键技术组件以及如何将这些概念应用于实际项目中。我们将通过一个简易的代码示例,展示如何在云原生环境下部署一个简单的应用,从而帮助读者更好地理解云原生技术的实践意义和应用价值。
|
19天前
|
Cloud Native JavaScript Docker
云原生技术:构建现代应用的基石
在数字化转型的浪潮中,云原生技术如同一艘承载梦想的航船,引领企业驶向创新与效率的新海域。本文将深入探索云原生技术的核心价值,揭示其如何重塑软件开发、部署和运维模式,同时通过一个简易代码示例,展现云原生应用的构建过程,让读者领略到云原生技术的魅力所在。
|
21天前
|
运维 Cloud Native 开发者
云原生技术入门与实践
在云计算的浪潮中,云原生技术以其独特的优势和魅力吸引了越来越多的开发者和企业。本文将从云原生技术的基本概念、核心组件以及实际应用三个方面进行详细介绍,帮助读者更好地理解和掌握这一新兴技术。同时,文章还将分享一些实际案例和经验教训,让读者能够更深入地了解云原生技术的应用场景和发展趋势。
36 5
|
18天前
|
Cloud Native API 持续交付
云原生架构下的微服务治理策略与实践####
本文旨在探讨云原生环境下微服务架构的治理策略,通过分析当前面临的挑战,提出一系列实用的解决方案。我们将深入讨论如何利用容器化、服务网格(Service Mesh)等先进技术手段,提升微服务系统的可管理性、可扩展性和容错能力。此外,还将分享一些来自一线项目的经验教训,帮助读者更好地理解和应用这些理论到实际工作中去。 ####
34 0
|
21天前
|
运维 Cloud Native 持续交付
深入理解云原生架构及其在现代企业中的应用
随着数字化转型的浪潮席卷全球,企业正面临着前所未有的挑战与机遇。云计算技术的迅猛发展,特别是云原生架构的兴起,正在重塑企业的IT基础设施和软件开发模式。本文将深入探讨云原生的核心概念、关键技术以及如何在企业中实施云原生策略,以实现更高效的资源利用和更快的市场响应速度。通过分析云原生架构的优势和面临的挑战,我们将揭示它如何助力企业在激烈的市场竞争中保持领先地位。