边缘计算和大数据平台如何相结合?

简介: 边缘计算和大数据平台如何相结合?

边缘计算和大数据平台相结合,能否引领企业颠覆式的数据智慧变革呢?宏伟的方案我就不说了,内功不达标,就说说个人理解的边缘计算+大数据平台的软件架构应该是什么样子。


第一,很多专家的观点都认为边缘计算就是先在边缘侧进行大量的数据预处理后,再将二次处理过的数据传给大数据平台端,做机器学习之类,这样既能解决带宽问题,又能减少后端的压力。我觉得这个观点不切实际!

为什么呢?这违背大数据计算的一个本质思想——数据应该是原始的。我们怎么去理解这个思想呢?

举个例子,街道摄像头监控,假设一个智能卡点作为一个边缘计算点了吧,那么如果觉得传递高清图片占用带宽和后台存储空间,如果我们的起初的需求只是探测超速,我们就根据预处理方法,通过AI模式识别,只将高速运动的异常图像传递给后台,这看起来很智能,架构很高效!但是这种处理方法会抛弃大量原生图像,后果是什么呢?以后刑侦需要人脸识别数据,防疫需要人员轨迹数据,AI识别系统升级了,需要识别更更多数据的时候,这些未来的需求和计算方法就没有了历史上原始数据做支撑了。因此大数据应该存储一份原生的数据,而不是根据想象中的需求做数据的大规模预先清洗。

那么怎么解决原生数据占用带宽和存储的问题呢?通过合理的数据结构,优化压缩,实现高度的数据压缩,物联网更容易产生大量相同数据,非常适合用压缩解决,这才是边缘计算需要着重考虑的技术问题。这点上在我最近研究的InfluxDB上,可以得到充分的说明,以往的数据库对于时间问题只是作为业务集的一个附属,但InfluxDB作为工业物联网的专业数据库,对数序数据进行了按时间戳的聚合,那么这种时间戳就称为了时序数据结构的主角,通过delta-delta算法就实现了海量数据时间戳的高度压缩,列值也是按列式结构对相同字段和类型的值进行聚合,同样可以实现高度压缩。


第二,那么边缘侧和大数据平台后端到底是一种什么样的合作关系呢?其实道理很朴素:边缘侧尽量以数据源就近优势,减少实时数据的操作延时,大数据平台的后端就发挥强大的数据管理和计算协调能力。这句话怎么理解呢:这就有点类似边缘侧的数据中心只是大数据平台的一个前置高速缓冲区,如果是缓冲区,那么边缘侧就应该和云中心拥有统一的数据映像关系,这种数据映像无论是结构化数据文件也好,非结构化数据文件也好,数据映像哪怕传递给世界各地,对于边缘侧始终认为所有数据就在它们的跟前,实际上看到的只是一个数据平台对真实数据在边缘侧的一个映像池,当真正需要操作数据时再从大数据中心湖仓中传输并在边缘侧加以缓冲。

而且每次边缘侧都应该缓冲足够的数据进行操作,那么在边缘侧还应该有操作这些数据的元数据和计算方法,这两者一定是大数据平台后端统一管理,面向全世界的边缘点分布式分发和升级一致性。这样才能做到边缘侧和大数据平台后端在运行过程中的状态一致性,而不是变成了各自为政。


第三,边缘侧把实时数据写入缓冲区到一定时间和容量后,用数据压缩的形式同步给云中心,数据中心还要为边缘侧的数据访问请求,提供数据回流的缓冲,这叫双向缓冲机制,使得边缘侧在执行实时数据的查询计算,分析比对过程中可以充分利用大数据平台数据湖仓的历史数据,边缘侧从数据湖仓回流必要的数据,针对现场环境做分析计算,这要比什么都放到大数据平台后端自己分析计算省事得多,节省资源得多,通过并行性也快得多,甚至还精准得多。


第四,基于一致性的数据模型、方法和技术,那么就能在边缘侧形成快速的镜像能力,扩展一个新的边缘点,那么大数据后端很快为新的边缘点生成元数据镜像点,新的边缘点在现场连接好物理资源,并建立好系统运行结构之后,就快速加入到大数据后端的一个边缘计算节点,这种威力如果能显现,类似于在云计算中心快速建立一个虚拟节点一样容易。这就有点意思了。


第五,大数据平台的计算与数据湖仓变成了跨机房,跨机架的分布式平台大环境,依然按照就近原则建立与边缘侧的计算节点的网络通讯,减少网络通讯距离,只不过这种分布式架构更灵活,可以从一个机房任意快照其他机房的数据,形成机房资源快照的通讯关系。


第六,边缘侧这种架构真没必要把当下的无线通讯技术扯进来,在物联网的生产端,要想无线区域全覆盖,这种建设成本就太昂贵了,就算给土豪沙特的油田上5G,土豪也得算流量费够不够卖一桶油钱,总之低成本的网络铺设和流量费用降下来再谈边缘计算是比较靠谱的。另外还有一种手段:其实我现在特别关注马斯克的星链计划,通过降低卫星的发射成本,实现全球全覆盖的通讯技术手段,这是不是要比铺设基站搞地区全覆盖的建设成本低得多?总之边缘计算的前提是要靠国家的基础建设铺路才行!


相关实践学习
数据库实验室挑战任务-初级任务
本场景介绍如何开通属于你的免费云数据库,在RDS-MySQL中完成对学生成绩的详情查询,执行指定类型SQL。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
相关文章
|
1天前
|
人工智能 运维 Cloud Native
云端融合:探索云原生技术的未来趋势
【6月更文挑战第19天】 在数字化时代的浪潮中,云原生技术如同一颗耀眼的星辰,引领着软件开发和运维的新方向。本文将深入探讨云原生技术的核心概念、优势以及面临的挑战,并通过案例分析展现其在实际应用中的成效。我们将一窥云原生技术如何推动企业IT架构的现代化转型,以及它在未来可能带来的行业变革。
|
1月前
|
边缘计算 安全 数据处理
边缘计算的广泛应用正在为企业带来了诸多优势
边缘计算的广泛应用正在为企业带来了诸多优势
59 13
边缘计算的广泛应用正在为企业带来了诸多优势
|
17天前
|
边缘计算 人工智能 物联网
边缘计算:为物联网带来更快速的数据处理
【6月更文挑战第4天】物联网快速发展,边缘计算应运而生,解决云计算的延迟与带宽挑战。边缘计算将处理能力移至数据源附近,提升响应速度,保障实时性应用(如自动驾驶)的安全性。同时,它减轻网络压力,增强数据隐私保护。示例代码展示如何在边缘设备上用Python进行实时人脸识别,体现边缘计算的实时性和隐私性。边缘计算结合5G、AI,将推动物联网进入新阶段,打造更智能、高效、安全的物联世界。
34 0
|
23天前
|
存储 边缘计算 人工智能
边缘计算在AI时代的关键技术演进
【5月更文挑战第29天】随着人工智能技术的飞速发展,数据处理需求日益增长。边缘计算作为一种新兴的计算模式,将数据处理和存储从中心云转移到网络的边缘,更接近数据产生的源头。本文聚焦于边缘计算在AI领域的应用及其技术演进,探讨了其在提高响应速度、降低带宽成本及增强数据隐私方面的重要性。通过分析当前边缘计算的技术挑战与未来趋势,旨在为读者提供一个全面的理解框架。
|
9月前
|
存储 边缘计算 运维
边缘计算技术
边缘计算技术
85 0
边缘计算技术
|
10月前
|
边缘计算 人工智能 物联网
物联网未来展望:5G、AI与边缘计算的融合之路
本篇详细探讨了物联网领域的未来展望,包括5G与物联网的融合、人工智能在物联网中的应用,以及边缘计算与物联网的发展趋势。通过代码示例,读者可以了解如何利用5G网络进行物联网设备间的高效数据传输,以及如何应用人工智能技术进行智能感知和数据分析。此外,我们还介绍了边缘计算在物联网中的重要作用,以及如何在边缘设备上进行数据处理和分析。通过本篇内容,读者将对物联网未来的技术发展有更全面的认识,为把握物联网领域的机遇提供有益的前瞻性指导。
308 0
|
消息中间件 边缘计算 运维
《边缘云技术演进与发展白皮书》——五、边缘云分布式云管系统技术演进——02 多维协同—— 2.云边协同
《边缘云技术演进与发展白皮书》——五、边缘云分布式云管系统技术演进——02 多维协同—— 2.云边协同
281 0
|
存储 边缘计算 运维
《边缘云技术演进与发展白皮书》——五、边缘云分布式云管系统技术演进——02 多维协同—— 1.边边协同
《边缘云技术演进与发展白皮书》——五、边缘云分布式云管系统技术演进——02 多维协同—— 1.边边协同
439 0
|
边缘计算 大数据 云计算
【系统架构】边缘计算——边云协同(一)
【系统架构】边缘计算——边云协同(一)
299 0
|
存储 机器学习/深度学习 边缘计算
边缘计算:一文理解云边端协同架构中的高性能云计算、边缘计算、云边协同
边缘计算:一文理解云边端协同架构中的高性能云计算、边缘计算、云边协同
5256 0
边缘计算:一文理解云边端协同架构中的高性能云计算、边缘计算、云边协同

热门文章

最新文章