边缘计算系统逻辑架构:云、边、端协同,定义及关系

简介: 边缘计算系统逻辑架构:云、边、端协同,定义及关系

引言

5G和物联网时代的到来,海量数据的产生与任务计算对现有网络产生极大的冲击,基于Internet的云计算虽然提供了对虚拟共享的可配置计算和存储资源的广泛访问和按需访问,是处理海量数据与计算任务的绝佳平台,但是对于5G时代的诸如在线游戏、虚拟现实和超高清视频流等高速访问超低延时的应用和海量终端互联来说,云计算是无法满足其要求的。


与此同时,下一代互联网的关键特征之一是信息越来越多地在本地生成并在本地消费,且大量的边缘设备存在可用计算和存储资源。因此,为应对云计算存在的挑战、网络压力和提升用户体验满足业务需求,业界提出将云计算平台迁移至网络边缘,即边缘计算,发掘网络的内在能力在数据源附近提供边缘服务,以满足在敏捷连接性、实时优化、智能应用、安全性和隐私性方面的关键要求.

1、“云-边-端”架构

在面向新一代信息基础设施的物联网体系架构中,数据处理以及基于数据的智能服务变得越来越重要。

前两年出现了一个比较热的词,叫做"边缘计算",是指把简单的、需要实时计算和分析的过程放到离终端设备更近的地方,以保证数据数据处理的实时性,同时也减少数据传输的风险。

最近又出现了一个新的热词,叫做“云边协同”,其含义跟边缘计算相差不是很大,只是强调“云-边-端”这样的架构,终端负责全面感知,边缘负责局部的数据分析和推理,而云端则汇集所有边缘的感知数据、业务数据以及互联网数据,完成对行业以及跨行业的态势感知和分析。


“云” 是传统云计算的中心节点,是边缘计算的管控端;

“边” 是云计算的边缘侧,分为基础设施边缘和设备边缘;

“端” 是终端设备,如手机、智能家电、各类传感器、摄像头等。

基于AI的智能服务则是贯穿“云-边-端”整个架构,在感知终端,AI技术旨在提高全面感知的敏感性、准确性以及人机交互、物物交互的实时性,同时也可以通过芯片来进行简单的逻辑推理。

在边缘处

AI技术主要负责汇集该域内的局部数据以及相关的业务数据,完成感知数据的分析和推理,并且能够把相关的分析结果或模型传送给感知终端,达到感知终端与边缘云的协同,同时,边缘云与边缘云之间也可以通过联网共享,共享数据、资源、算法等,完成边缘云之间的相互协同。

在云端

不仅需要提供类似边缘云的云计算相关的存储、计算、网络、安全资源,还需要汇集、融合所有的数据,提供基于全局数据的智能服务,包括智能调度、运维、宏观决策等。


云中心擅长全局性的、非实时的、长周期的大数据处理与分析,能够在长周期维护、业务决策支撑等领域发挥优势。

边缘计算更适合局部性、实时、短周期数据的处理与分析,能更好地支撑本地业务的实时智能化决策与执行。边缘计算与云中心是互补协同的关系,边云协同将放大边缘计算与云计算的应用价值:边缘计算既靠近执行单元,更是云端所需高价值数据的采集和初步处理单元,可以更好地支撑云端应用;反之,云计算通过大数据分析处理优化输出的业务规则或模型可以下发到边缘侧,边缘计算基于新的业务规则或模型运行。

从表中可以看出云计算和边缘计算是各有优势的,云计算的主要优势是海量计算和海量存储、计算效率高、广域覆盖,适合计算密集型、非实时性的计算任务和海量数据的并行计算与存储,能够在长周期维护、业务决策支撑等领域发挥优势,并且计算硬件都集中在云计算中心,实行集中式的管理,因此无需在本地维护计算硬件、数据存储和相关软件。


边缘计算的主要优势是广泛分布的边缘节点提供了实时的数据处理,边缘计算的过程是一个以用户和应用为中心的过程,弥补了云计算中时延和移动性的缺陷,适合非计算密集型、实时性、移动性数据的处理分析和实时智能化决策,并且作为一种新的网络范式能够满足5G 时代计算需求的空前增长和用户体验质量的不断提高,数据的本地化处理相较于云端也更安全。


但是,边缘平台的处理性能通常不如云平台,它通常没有足够的内存和处理器来处理大量数据,因此无法执行复杂的操作,例如深度学习


除了云边协同,由图上图可知,逻辑架构侧重边缘计算系统云、边、端各部分之间的交互和协同,包括云、边协同,边、端协同和云、边、端协同3个部分。


除了云边协同,由图上图可知,逻辑架构侧重边缘计算系统云、边、端各部分之间的交互和协同,包括云、边协同,边、端协同和云、边、端协同3个部分。

1、云、边协同:通过云部分Kubernetes的控制节点和边部分KubeEdge所运行的节点共同实现。


Kubernetes控制节点沿用云部分原有的数据模型,保持原有的控制、数据流程不变,即KubeEdge所运行的节点在Kubernetes上呈现出来的是一个普通节点。Kubernetes可以像管理普通节点一样管理KubeEdge所运行的节点。

KubeEdge之所以能够运行在资源受限、网络质量不可控的边缘节点上,是因为KubeEdge在Kubernetes控制节点的基础上通过云部分的CloudCore和边缘部分的EdgeCore实现了对Kubernetes云计算编排容器化应用的下沉。


如下图所示:

2、边、端协同:通过边部分KubeEdge和端部分EdgeX Foundry共同实现。


KubeEdge作为运行在边缘节点的管理程序,负责管理在边缘节点上应用负载的资源、运行状态和故障等。在一些的边缘计算系统中,KubeEdge为EdgeX Foundry服务提供所需的计算资源,同时负责管理EdgeX Foundry端服务的整个生命周期。

EdgeX Foundry是由KubeEdge管理的一套IoT SaaS平台。该平台以微服务的形式管理多种物联网终端设备。同时,EdgeX Foundry可以通过所管理的微服务采集、过滤、存储和挖掘多种物联网终端设备的数据,也可以通过所管理的微服务向多种物联网终端设备下发指令来对终端设备进行控制。

3、云、边、端协同:通过云解决方案Kubernetes的控制节点、边缘解决方案KubeEdge和端解决方案EdgeX Foundry共同实现。

参考资料

深入理解边缘计算:云、边、端工作原理与源码分析 崔广章 之江实验室工程师撰写

物联网数据分析体系

详解边缘计算系统逻辑架构:云、边、端协同

基于软件定义网络的云边协同架构研究综述,【文章编号:1007-130X(2021)02-0242-16】李 波,侯 鹏,牛 力,武 浩,丁洪伟,文章编号:1007-130X(2021)02-0242-16

目录
相关文章
|
9天前
|
监控 安全 API
使用PaliGemma2构建多模态目标检测系统:从架构设计到性能优化的技术实践指南
本文详细介绍了PaliGemma2模型的微调流程及其在目标检测任务中的应用。PaliGemma2通过整合SigLIP-So400m视觉编码器与Gemma 2系列语言模型,实现了多模态数据的高效处理。文章涵盖了开发环境构建、数据集预处理、模型初始化与配置、数据加载系统实现、模型微调、推理与评估系统以及性能分析与优化策略等内容。特别强调了计算资源优化、训练过程监控和自动化优化流程的重要性,为机器学习工程师和研究人员提供了系统化的技术方案。
128 77
使用PaliGemma2构建多模态目标检测系统:从架构设计到性能优化的技术实践指南
|
2天前
|
机器学习/深度学习 算法 数据可视化
基于深度混合架构的智能量化交易系统研究: 融合SSDA与LSTM自编码器的特征提取与决策优化方法
本文探讨了在量化交易中结合时序特征和静态特征的混合建模方法。通过整合堆叠稀疏降噪自编码器(SSDA)和基于LSTM的自编码器(LSTM-AE),构建了一个能够全面捕捉市场动态特性的交易系统。SSDA通过降噪技术提取股票数据的鲁棒表示,LSTM-AE则专注于捕捉市场的时序依赖关系。系统采用A2C算法进行强化学习,通过多维度的奖励计算机制,实现了在可接受的风险水平下最大化收益的目标。实验结果显示,该系统在不同波动特征的股票上表现出差异化的适应能力,特别是在存在明确市场趋势的情况下,决策准确性较高。
16 5
基于深度混合架构的智能量化交易系统研究: 融合SSDA与LSTM自编码器的特征提取与决策优化方法
|
13天前
|
机器学习/深度学习 人工智能 并行计算
【AI系统】Kernel 层架构
推理引擎的Kernel层负责执行底层数学运算,如矩阵乘法、卷积等,直接影响推理速度与效率。它与Runtime层紧密配合,通过算法优化、内存布局调整、汇编优化及调度优化等手段,实现高性能计算。Kernel层针对不同硬件(如CPU、GPU)进行特定优化,支持NEON、AVX、CUDA等技术,确保在多种平台上高效运行。
66 32
|
13天前
|
存储 机器学习/深度学习 人工智能
【AI系统】计算图优化架构
本文介绍了推理引擎转换中的图优化模块,涵盖算子融合、布局转换、算子替换及内存优化等技术,旨在提升模型推理效率。计算图优化技术通过减少计算冗余、提高计算效率和减少内存占用,显著改善模型在资源受限设备上的运行表现。文中详细探讨了离线优化模块面临的挑战及解决方案,包括结构冗余、精度冗余、算法冗余和读写冗余的处理方法。此外,文章还介绍了ONNX Runtime的图优化机制及其在实际应用中的实现,展示了如何通过图优化提高模型推理性能的具体示例。
45 4
【AI系统】计算图优化架构
|
3天前
|
机器学习/深度学习 前端开发 算法
婚恋交友系统平台 相亲交友平台系统 婚恋交友系统APP 婚恋系统源码 婚恋交友平台开发流程 婚恋交友系统架构设计 婚恋交友系统前端/后端开发 婚恋交友系统匹配推荐算法优化
婚恋交友系统平台通过线上互动帮助单身男女找到合适伴侣,提供用户注册、个人资料填写、匹配推荐、实时聊天、社区互动等功能。开发流程包括需求分析、技术选型、系统架构设计、功能实现、测试优化和上线运维。匹配推荐算法优化是核心,通过用户行为数据分析和机器学习提高匹配准确性。
22 3
|
16天前
|
存储 人工智能 监控
【AI系统】推理系统架构
本文深入探讨了AI推理系统架构,特别是以NVIDIA Triton Inference Server为核心,涵盖推理、部署、服务化三大环节。Triton通过高性能、可扩展、多框架支持等特点,提供了一站式的模型服务解决方案。文章还介绍了模型预编排、推理引擎、返回与监控等功能,以及自定义Backend开发和模型生命周期管理的最佳实践,如金丝雀发布和回滚策略,旨在帮助构建高效、可靠的AI应用。
76 15
存储 人工智能 自然语言处理
48 6
|
1天前
|
监控 Java 数据中心
微服务架构系统稳定性的神器-Hystrix
Hystrix是由Netflix开源的库,主要用于微服务架构中的熔断器模式,防止服务调用失败引发级联故障。它通过监控服务调用的成功和失败率,在失败率达到阈值时触发熔断,阻止后续调用,保护系统稳定。Hystrix具备熔断器、资源隔离、降级机制和实时监控等功能,提升系统的容错性和稳定性。然而,Hystrix也存在性能开销、配置复杂等局限,并已于2018年进入维护模式。
10 0
|
1天前
|
前端开发 搜索推荐 安全
陪玩系统架构设计陪玩系统前后端开发,陪玩前端设计是如何让人眼前一亮的?
陪玩系统的架构设计、前后端开发及前端设计是构建吸引用户、功能完善的平台关键。架构需考虑用户需求、技术选型、安全性等,确保稳定性和扩展性。前端可选用React、Vue或Uniapp,后端用Spring Boot或Django,数据库结合MySQL和MongoDB。功能涵盖用户管理、陪玩者管理、订单处理、智能匹配与通讯。安全性方面采用SSL加密和定期漏洞扫描。前端设计注重美观、易用及个性化推荐,提升用户体验和平台粘性。
12 0
|
15天前
|
机器学习/深度学习 人工智能 调度
【AI系统】推理引擎架构
本文详细介绍了推理引擎的基本概念、特点、技术挑战及架构设计。推理引擎作为 AI 系统中的关键组件,负责将训练好的模型部署到实际应用中,实现智能决策和自动化处理。文章首先概述了推理引擎的四大特点:轻量、通用、易用和高效,接着探讨了其面临的三大技术挑战:需求复杂性与程序大小的权衡、算力需求与资源碎片化的矛盾、执行效率与模型精度的双重要求。随后,文章深入分析了推理引擎的整体架构,包括优化阶段的模型转换工具、模型压缩、端侧学习等关键技术,以及运行阶段的调度层、执行层等核心组件。最后,通过具体的开发流程示例,展示了如何使用推理引擎进行模型的加载、配置、数据预处理、推理执行及结果后处理。
45 0

热门文章

最新文章

下一篇
DataWorks